• python 脏话处理、特殊词汇过滤!


    python的其中一个强大之处就是它可以方便的集成很多的非标准库,今天在GitHub上溜达又发现了一个脏话处理神器,导入better_profanity库后,只需要几行代码就能搞定了,相当nice!

    使用pip的方式将better_profanity非标准库安装好,这个库好像在清华大学的镜像站中没有,其他镜像站不知道有没有,于是下载时没有使用镜像站,默认到官方去下载即可。

    1. pip install better_profanity
    2. # 将处理模块直接导入到代码块中
    3. from better_profanity import profanity

    1、默认脏话库/敏感词库处理

    默认情况下就只能处理英文的脏话。

    1. censored_text = profanity.censor("you are bitch")
    2. print(censored_text)
    3. # you are ****

    可以看到其中bitch字符被认为是脏话已经处理成****字符了。

    当然,还可以将处理后的脏话字符换成别的字符代替,比如下面这样处理。

    1. censored_text = profanity.censor("you are bitch",'-')
    2. print(censored_text)
    3. # you are ----

    这样****就被替换成了----。

    2、自定义过滤信息处理

    1. bad_words = ['Python''Java''Scala']  # 自定义过滤词汇
    2. profanity.load_censor_words(bad_words)  # 加载自定义过滤词汇
    3. censored_text = profanity.censor("Python is very Good !")  # 执行过滤
    4. print(censored_text)
    5. # **** is very Good !

    可以发现,想要过滤的python字符已经成功过滤掉了。

    3、contains_profanity函数

    contains_profanity函数用来查看我们的语句中是否包含需要过滤的词汇,如果包含则会返回True,否则返回False。

    1. bad_words = ['bitch''Java''Scala']  # 自定义过滤词汇
    2. profanity.load_censor_words(bad_words)  # 加载自定义过滤词汇
    3. censored_text = profanity.contains_profanity("you are bitch")
    4. print(censored_text)
    5. # True

    结果为True,表示包含需要过滤的词汇信息。

    4、load_censor_words_from_file函数

    load_censor_words_from_file函数用于加载需要过滤词汇的文件。

    profanity.load_censor_words_from_file('/usr/load/bad_words.txt')
    

    加载完词汇文件之后,按照之前的逻辑处理即可。

    词汇文件的定义格式,按照每个词汇独占一行的形式进行定义,文件格式使用.txt文本文档即可。

    1. # bitch
    2. # bitches
    3. # bitchin
    4. # bitching
    5. # blowjob
    6. # blowjobs
    7. # blue waffle

    创作不易,点赞、分享支持一下 ~

     

  • 相关阅读:
    Group velocity and phase velocity(群速度与相速度)
    TS 变量类型
    字节青训营 浅尝Type Script
    C语言:字符串函数(3)
    【网络空间实战攻防能力训练】渗透测试第二周(漏洞利用)
    Spring核心系列——多yaml数据读取,@Value day1-1
    Angular变更检测机制
    无需更换vue-cli 脚手架 uniapp-搭建项目-H5-低版本安卓IOS兼容问题(白屏)(接口请求异常)
    x264参数介绍(帧类型和码率控制,分析和视频可用性信息)
    浅谈绿色创新型校园的节约能耗与能耗管理的应用
  • 原文地址:https://blog.csdn.net/hebiwen95/article/details/126013166