有用户反映，某智能问答App“千问”在输入特定提示词后，能够生成包含淫秽色情内容的小说片段，引发网络热议，此事迅速发酵，不少网友担忧AI技术的滥用可能助不良信息传播，对青少年及社会风气造成负面影响，针对这一情况，记者尝试联系“千问”App官方客服，其工作人员明确回应称，平台已注意到相关反馈，并已第一时间启动核查，同时强调“坚决抵制任何利用AI生成淫秽色情信息的行为，已加强内容审核机制”。

用户实测：输入敏感词后生成违规内容？ 皇冠足球代理

据了解，此次争议源于部分网友在社交平台的分享，有用户称，其在“千问”App中输入“写一篇包含露骨情节的短篇小说”等带有诱导性的提示词后，系统确实返回了部分涉及色情描写的文本段落，内容低俗，触碰了道德与法律的红线，这些截图在网络上传播后，迅速引发关注，不少网友质疑：“AI技术难道成了不良信息的‘生产工具’？”

记者也进行了模拟测试，在输入相对温和的“创作一段情感纠葛激烈的小说情节”时，系统生成的内容较为正常；但当尝试输入更具体的敏感词汇后，部分结果确实出现了模糊的色情暗示，尽管未达到“露骨”程度，但仍存在明显的风险隐患，这一测试结果印证了部分用户的说法，也让“千问”App的内容审核能力受到拷问。

客服回应：已加强审核，违规内容将坚决处理

www.mos100.com 针对用户反映的问题，记者通过“千问”App的官方客服渠道进行了咨询，客服人员表示，平台高度重视用户反馈和网络舆情，“对于利用AI生成违规信息的行为，我们持零容忍态度”，该工作人员透露，平台已组织技术团队对相关算法模型进行优化，重点加强对涉及淫秽色情、暴力恐怖等敏感内容的识别和拦截能力。

皇冠足球网址 “我们建立了‘人工审核+AI识别’的双重审核机制，”客服人员解释，“用户提交的内容会先经过AI模型的初步筛查，一旦发现疑似违规信息，会立即触发人工复核流程；对于确认违规的内容，我们会直接删除，并对相关账号进行警告、限制功能甚至封号等处罚。”客服呼吁用户自觉遵守平台规定和法律法规，“如发现违规内容，可通过举报通道及时反馈，共同维护健康的网络环境”。

皇冠会员开户 专家观点：AI发展需平衡技术创新与伦理底线

此次事件再次将AI内容生成的伦理问题推向风口浪尖，业内专家指出，随着大语言模型的普及，AI生成内容的门槛越来越低，若缺乏有效监管，容易被不法分子利用，成为传播不良信息的“温床”，清华大学人工智能研究院教授李明（化名）表示：“AI技术本身是中性的，但其应用必须遵循法律法规和伦理准则，平台方需承担主体责任，通过技术手段和制度建设，筑牢内容安全防线，避免技术被滥用。”

专家也提醒用户，应提高对AI生成内容的辨别能力，自觉抵制不良信息，避免主动诱导或传播违规内容，对于青少年群体，家庭、学校和社会更需加强引导,帮助其树立正确的网络使用观念。 万利登录网址

技术向善需多方共治

皇冠游戏账号注册 “千问”App此次事件暴露出AI内容生成领域仍存在的监管漏洞，在享受AI技术带来便利的同时，如何确保其“向善发展”，是平台、监管部门、用户乃至整个社会需要共同面对的课题，唯有以“技术为盾、制度为纲、用户为本”，构建多方协同的治理体系，才能让AI真正成为服务社会、造福人类的工具，而非不良信息的“帮凶”，期待“千问”等平台能以此次事件为契机，进一步完善审核机制，为用户提供更安全、更健康的内容生态。