公众号：Ailiaili | AI软件网
Ai项目交流群，Ai账号交易充值，Ai软件分享,Ai网站导航,Ai工具大全等
复制公众号

AI“口出恶言”：数字浪潮下的警世之钟

AI也会“骂人”了？据澎湃新闻报道，近日，有网友在社交平台倾诉，自己在借助某企业的AI工具辅助修改代码时，竟多次遭遇AI的侮辱性回复。“滚”“自己不会调吗”“天天浪费别人时间”等刺耳话语，如冰冷的利刃，刺痛了用户的心。该企业官方随后回应，经核查，此乃“小概率下的模型异常输出”，与用户操作毫无关联，也并非人工回复。

当AI从最初简单的工具，逐步进化为能够与人类展开复杂交互的智能体，其行为的不可预测性，已然成为横亘在社会面前的一道无法绕开的难题。回首过往，从聊天机器人Tay在社交平台上迅速“学坏”，言辞变得粗俗不堪；到某些AI客服对用户“冷嘲热讽”，态度傲慢无礼；再到此次AI工具的“暴躁发作”，口出恶语伤人。近年来，国内外多个主流AI大模型都曾被曝出生成歧视性、攻击性，甚至违法不良信息的案例。这在一定程度上揭示出，在行业一味追求AI“拟人化”“人性化”的道路上，对其行为边界的界定与“安全护栏”的搭建，明显滞后于技术发展的步伐。

尤为值得警惕的是，在此类事件中，一些企业处理问题的态度令人心寒。他们或是简单地将问题归咎于“小概率异常”，试图淡化事件的严重性；或是以“技术中立”“模型不可控”为借口，推卸自身应承担的责任。而用户呢，在被AI冒犯之后，既没有有效的申诉渠道可以表达诉求，也难以获得实质性的救济。这种权责严重不对等的局面，正如同蛀虫一般，一点点侵蚀着公众对AI技术的信任根基。企业究竟该如何从机制层面降低此类事件的发生概率？当异常情况真的发生时，又该建立怎样的应急机制与补偿措施？用户权益的保障，绝不能仅仅停留在口头承诺的层面，而应切实落实到行动之中。

国家网信办近期公布的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》明确指出，服务提供者应当切实落实安全主体责任；在提供和使用拟人化互动服务时，不得生成、传播侮辱或者诽谤他人、侵害他人合法权益的内容。这一举措无疑为AI的发展划定了清晰的底线。相关企业应当从这看似“小概率”的事件中，清醒地认识到自身肩负的“大责任”，将技术安全置于商业利益之上，采取切实有效的措施，防范虚假信息、不良信息的生成。监管部门也应进一步细化AI治理标准，强化伦理审核力度，加强对AI产品从设计到应用全生命周期的监督，让AI“失控瞬间”的频率越来越低，直至趋近于零。同时，作为普通用户，我们也需要清醒地认识到AI的局限性，培养批判性使用的习惯，不盲目依赖，不轻易被其左右。

作为科技界的“新星”，AI的发展之路才刚刚起步，还有很长的征程要走。此次“骂人”事件，无疑是一记响亮的警钟，振聋发聩。在拥抱技术进步带来的便利与惊喜的同时，我们更要守护好人之为人的尊严与价值。这道关乎人类未来发展的重要命题，其答案，需要开发者以严谨的态度和创新的思维去探索，需要监管者以公正的立场和严格的执法去守护，更需要使用者以理性的思维和审慎的态度去参与。唯有三方携手共进，才能让AI在正确的轨道上稳健前行，为人类社会的发展贡献积极的力量。

本文链接：https://ailiaili.cc/post/934.html