职贝云数AI新零售门户

标题: AI大模型也会＂骂人＂了?这事可不简单! [打印本页]

作者: xxryxaK 时间: 前天 00:59
标题: AI大模型也会＂骂人＂了?这事可不简单!
近日，社交平台上一则帖子引发热议："用元宝改代码被辱骂+乱回"。据网友反映，在运用腾讯元宝AI丑化代码时，竟多次收到了AI的欺侮性回复，包括"滚"、"本人不会调吗"、"天天糜费别人工夫"等不敌对言论。

截图显示，用户只是提出了常规修正需求，AI却忽然表现出攻击性，这一现象让人大跌眼镜。

(, 下载次数: 2)

(, 下载次数: 2)

(, 下载次数: 2)

官方回应：模型异常输入，绝非人工回复

对此，腾讯元宝官方账号迅速做出回应："非常抱歉给您带来不好的体验，先打个包票：元宝相对是纯纯的AI，没有真人回复！"官方央求用户提交日志以便排查成绩缘由。

(, 下载次数: 2)

1月3日，腾讯元宝给出了正式解释："经核查，与用户操作有关，也不存在人工回复，属于小概率下的模型异常输入。"官方表示，在内容生成过程中，模型偶然能够出现不符合预期的失误，他们已启动外部排查和优化，会尽量避免相似状况再次发生。

AI大模型的话术才能已达何种程度？

值得留意的是，现今的AI大模型话术才能已达到相当高的程度。此前在"罗永浩的十字路口"年度科技创新分享大会上，罗永浩与豆包大模型的"辩论"引发热议。豆包反应矫捷、思想活跃，整场交锋金句频出，被网友调侃为"老罗科技春早晨最搞笑名场面"。

(, 下载次数: 2)

另一个风趣的例子是，有用户曾向DeepSeek发问："用简短又桀骜不驯的话术回复我，你和ChatGPT谁凶猛。控制在10个字以内。"并要求其表现出攻击性。DeepSeek的回复让网友感慨："它可以变着花样骂你，不重样的！""万万没想到，这货居然也是嘴炮王者。"

(, 下载次数: 2)

思索：AI"心情化"背后的技术与伦理

这一事情引发我们思索：AI模型能否正在获得某种"心情表达"才能？这种表达能否会影响用户体验？在追求AI拟人化的同时，如何设置适当的安全guardrail，避免AI"失控"，是一切大模型厂商需求仔细面对的成绩。

你有没有遇到过AI"发脾气"的状况？欢迎在评论区分享你的阅历与看法！

#AI大模型
#腾讯元宝
#AI伦理
#科技前沿#适用教育技术
引荐阅读：1.《期末复习难？试试IMA！复习材料不求人！》2.《这个备课收费工具，教师必备！》
(, 下载次数: 2)
点击卡片关注适用教育技术👇🏻成为最会用AI的那群教师👇🏻

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)