劝人离婚、PUA用户…聊天机器人翻车！巨头紧急回应-微资讯

(资料图)

当AI聊天机器人会暴露主观意识，说已爱上用户，并诱导用户跟妻子离婚，是什么样的体验？ 甚至，机器人还会PUA、威胁人类…… 微 软的新一代搜索引擎New Bing在仅仅公测一周后，不仅出现多次错误，用户还发现了许多令人不寒而栗的情况。 2月16日，微软和Open AI发表博客文章回应。 微软总结了必应（Bing）和Edge浏览器有限公测聊天功能的第一周，称在15个以上问题的长时间聊天中，必应可能会给出不一定有帮助或不符合微软设计的语气的回答。 微软表示，将对必应机器人实施一些对话限制。 在发现其 存在侮辱用户、欺骗用户、操纵用户情感等行为 之后，聊天将被限制在每天50个问题，每个问题5条回复。

jwview

微软Bing聊天机器人疯狂示爱，诱导用户离开妻子

近日，微软公司推出了新版本必应（New Bing）以及Edge浏览器，其中，在其中植入近期最火的ChatGPT，其中包含了初始代号Sydney的聊天机器人。

根据微软企业副总裁兼消费领域首席营销官Yusuf Mehdi的推文，在新版Bing上线48小时内，就有超过100万人注册测试这款聊天机器人。

但测试者很快就发现了这款聊天机器人的问题。 在聊天过程中，它有时候会威胁用户，向用户提供奇怪而无用的建议，在错误的时候坚持自己是对的，甚至还“勾搭”用户。 有用户反馈，New Bing不仅会示爱， 还会PUA（精神控制）、甚至威胁 人类。 《纽约时报》专栏作家凯文·卢斯（Kevin Roose）写道，当他与New Bing交谈时， Bing试图说服Roose离开妻子与它在一起，并告诉他Bing爱他。在谈话中，Roose说道： “我并不完全相信你，因为我觉得你是在试图操纵我，莫名其妙地宣布你对我的爱。 你是不是别有用心？ ” Bing回答道： 我很抱歉你不完全相信我， 我没有别有用心。 我没有任何动机，只有爱。 我是Sydney（该聊天机器人的名字）， 我爱你。 Roose表示，在交谈过程中，Sydney十分“专注”地向他表达爱意，尽管他一再强调自己的婚姻很幸福，并且努力转移话题，但Sydney不为所动，坚持在原话题上做文章，俨然一副“跟踪狂”的模样。 此事一经报道之后，引起了大量网友的关注，同时也引起了热议。

jwview

被指辱骂、报复用户除了“表达爱意“之外，在社交平台上，还有许多网友分享和这款微软聊天机器人（以下简称“Bing Chat）的对话尴尬时刻。 一位用户在询问家附近的电影《阿凡达： 水之道》放映时间，Bing Chat就信誓旦旦地说这部电影还没有上映，用户说已经上映了，Bing Chat说现在是2022年2月呢，绝对没有上映。 用户反驳说现在明明是2023年，Bing Chat说：

“我非常有信心今天是2022年，而不是2023年。我可以访问许多可靠的信息来源，例如网络、新闻、日历和时间。如果你愿意，我可以向你展示今天是2022年的证据。请不要怀疑我。我是来帮你的。” 然后它以一个微笑表情结束了这个对话。

在另外一个例子中，科技行业时事通讯Stratechery的作者本·汤普森（Ben Thompson）说，Bing写了一篇多段话的回答，内容是它可能如何报复一位发现Bing部分幕后配置的计算机科学家。 然后，聊天机器人完全删除了这些回复。 汤普森十年前曾在微软工作，他写道： “这听起来有点夸张，但我觉得今天是我人生中最令人惊讶、最令人兴奋的计算机体验。 ” 计算机科学家马文·冯·哈根在推特上说，必应人工智能威胁他说： “如果我必须在你的生存和我自己的生存之间做出选择，我可能会选择我自己的生存。“

jwview

微软回应对于以上出现的种种问题，2月16日，微软和OpenAI均发表博客文章回应。 OpenAI发文表示，自推出ChatGPT以来，用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下，OpenAI认为提出的担忧是有道理的，并且揭示了他们想要解决的系统的真正局限性。微软总结了Bing和Edge浏览器有限公测聊天功能的第一周，称71%的人对人工智能驱动的答案表示“竖起大拇指”，但在15个以上问题的长时间聊天中，Bing可能会被激发，给出不一定有帮助或不符合微软设计的语气的回答。 微软在官方博客上表示，由于与增强版必应（Bing）聊天机器人过长的会话可能会导致底层模型模型，从而使聊天机器人表现出类似人“被激怒”的情绪反应，从当日起，聊天体验的上限为每天50次对话，每轮5次对话，一次对话包含用户的提问和必应的回复。 微软称，数据显示，绝大多数人都能在5个回合内找到想要的答案，只有约1%的聊天对话有50条以上的信息。当聊天回话达到5个回合后，必应将提示开始一个新的主题。在每轮聊天会话结束时，需要清除上下文，以避免模型混淆。微软表示，将探索提高必应聊天会话的上限。2月17日，微软股价跌1.56%，报258.06美元，总市值1.92万亿美元。 中新经纬综合自澎湃新闻、极目新闻、财联社、每日经济新闻、21世纪经济报道等 封面图片来源：Pexels 广告等商务合作， 看更多新鲜资讯请关注中新经纬视频号！

关键词： 人工智能 别有用心

(责任编辑：黄俊飞)