央视和《时代周报》近日曝光称，有商家借生成式人工智能（AI）大模型违法制作黄色图片和视频，客户只需9.9元（人民币，下同）就可获得大量“制作黄色内容提示词”，29.9元就能将正常照片一键脱衣、变成裸照，甚至生成色情视频。
央视《财经调查》报道指，部分商家在网上平台公开兜售AI色情影片教程及提示词，声称仅凭一张图片或几句文字就能制作大尺度内容，并以“AI擦边赛道日入5位数”等字眼招揽顾客，相关宣传图片极为露骨。
敏感词译成英文图规避监管
这些提示词内容写得十分详细，从发型、服饰、身材、姿势、表情，到腰部、胯部扭动幅度，都有极其细致的描述。此外，商家还将一些敏感词译成英文，企图规避监管。
《时代周报》亦调查发现，有商家指豆包等主流AI模型监管较严，转而推荐其他可生成色情图影的网站。一位该网站的销售报价称，只需9.9元就可购买大量“进阶版提示词”，19.9元能用图片生成带声音的视频，29.9元能对图片和视频“卸甲脱衣”。
资深产业观察家梁振鹏表示，此事反映出AI技术便利与内容安全之间的矛盾。他认为，平台不能只靠关键词拦截，必须建立技术、人工与制度相结合的全方位防控体系。
