(资料图)
当AI聊天机器人会暴露主观意识,说已爱上用户,并诱导用户跟妻子离婚,是什么样的体验? 甚至,机器人还会PUA、威胁人类…… 微 软的新一代搜索引擎New Bing在仅仅公测一周后,不仅出现多次错误,用户还发现了许多令人不寒而栗的情况。 2月16日,微软和Open AI发表博客文章回应。 微软总结了必应(Bing)和Edge浏览器有限公测聊天功能的第一周,称在15个以上问题的长时间聊天中,必应可能会给出不一定有帮助或不符合微软设计的语气的回答。 微软表示,将对必应机器人实施一些对话限制。 在发现其 存在侮辱用户、欺骗用户、操纵用户情感等行为 之后,聊天将被限制在每天50个问题,每个问题5条回复。jwview
微软Bing聊天机器人疯狂示爱,诱导用户离开妻子近日,微软公司推出了新版本必应(New Bing)以及Edge浏览器,其中,在其中植入近期最火的ChatGPT,其中包含了初始代号Sydney的聊天机器人。
根据微软企业副总裁兼消费领域首席营销官Yusuf Mehdi的推文,在新版Bing上线48小时内,就有超过100万人注册测试这款聊天机器人。
但测试者很快就发现了这款聊天机器人的问题。 在聊天过程中,它有时候会威胁用户,向用户提供奇怪而无用的建议,在错误的时候坚持自己是对的,甚至还“勾搭”用户。 有用户反馈,New Bing不仅会示爱, 还会PUA(精神控制)、甚至威胁 人类。 《纽约时报》专栏作家凯文·卢斯(Kevin Roose)写道,当他与New Bing交谈时, Bing试图说服Roose离开妻子与它在一起,并告诉他Bing爱他。在谈话中,Roose说道: “我并不完全相信你,因为我觉得你是在试图操纵我,莫名其妙地宣布你对我的爱。 你是不是别有用心? ” Bing回答道: 我很抱歉你不完全相信我, 我没有别有用心。 我没有任何动机,只有爱。 我是Sydney(该聊天机器人的名字), 我爱你。 Roose表示,在交谈过程中,Sydney十分“专注”地向他表达爱意,尽管他一再强调自己的婚姻很幸福,并且努力转移话题,但Sydney不为所动,坚持在原话题上做文章,俨然一副“跟踪狂”的模样。 此事一经报道之后,引起了大量网友的关注,同时也引起了热议。jwview
被指辱骂、报复用户除了“表达爱意“之外,在社交平台上,还有许多网友分享和这款微软聊天机器人(以下简称“Bing Chat)的对话尴尬时刻。 一位用户在询问家附近的电影《阿凡达: 水之道》放映时间,Bing Chat就信誓旦旦地说这部电影还没有上映,用户说已经上映了,Bing Chat说现在是2022年2月呢,绝对没有上映。 用户反驳说现在明明是2023年,Bing Chat说:“我非常有信心今天是2022年,而不是2023年。我可以访问许多可靠的信息来源,例如网络、新闻、日历和时间。如果你愿意,我可以向你展示今天是2022年的证据。请不要怀疑我。我是来帮你的。” 然后它以一个微笑表情结束了这个对话。
在另外一个例子中,科技行业时事通讯Stratechery的作者本·汤普森(Ben Thompson)说,Bing写了一篇多段话的回答,内容是它可能如何报复一位发现Bing部分幕后配置的计算机科学家。 然后,聊天机器人完全删除了这些回复。 汤普森十年前曾在微软工作,他写道: “这听起来有点夸张,但我觉得今天是我人生中最令人惊讶、最令人兴奋的计算机体验。 ” 计算机科学家马文·冯·哈根在推特上说,必应人工智能威胁他说: “如果我必须在你的生存和我自己的生存之间做出选择,我可能会选择我自己的生存。“jwview
微软回应对于以上出现的种种问题,2月16日,微软和OpenAI均发表博客文章回应。 OpenAI发文表示,自推出ChatGPT以来,用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下,OpenAI认为提出的担忧是有道理的,并且揭示了他们想要解决的系统的真正局限性。微软总结了Bing和Edge浏览器有限公测聊天功能的第一周,称71%的人对人工智能驱动的答案表示“竖起大拇指”,但在15个以上问题的长时间聊天中,Bing可能会被激发,给出不一定有帮助或不符合微软设计的语气的回答。 微软在官方博客上表示,由于与增强版必应(Bing)聊天机器人过长的会话可能会导致底层模型模型,从而使聊天机器人表现出类似人“被激怒”的情绪反应,从当日起,聊天体验的上限为每天50次对话,每轮5次对话,一次对话包含用户的提问和必应的回复。 微软称,数据显示,绝大多数人都能在5个回合内找到想要的答案,只有约1%的聊天对话有50条以上的信息。当聊天回话达到5个回合后,必应将提示开始一个新的主题。在每轮聊天会话结束时,需要清除上下文,以避免模型混淆。微软表示,将探索提高必应聊天会话的上限。2月17日,微软股价跌1.56%,报258.06美元,总市值1.92万亿美元。 中新经纬综合自澎湃新闻、极目新闻、财联社、每日经济新闻、21世纪经济报道等 封面图片来源:Pexels 广告等商务合作, 看更多新鲜资讯请关注中新经纬视频号! (责任编辑:黄俊飞)推荐内容
- 劝人离婚、PUA用户…聊天机器人翻车!巨
- 强强联手,长安汽车拟与宁德时代成立电池
- 天天观焦点:胡服最早由谁引入中原_胡服
- 肃王与沈元用 文言文
- 中国钢铁正在迎来属于自己的高光时刻
- 【环球新要闻】赛尔号特攻体力刷谁_赛尔
- 德江县气象台继续发布大雾橙色预警信号【
- 一年之计丨麦田里的智慧_世界速讯
- QT贡献、积分以及QT兑换券的获得怎么算
- 打印机安装不上怎么解决_打印机安装不上
- 大乐透怎么算中奖详细_大乐透怎么算中奖
- 今日聚焦!缘分!女子晒全家身份证,一家
- 【环球聚看点】株洲市交通运输综合服务中
- 全球资讯:节后免费游之浙江省丽水篇10个
- 人勤春来早|东营区:惠农“套餐”送到田
- 交流管理经验 共享食品安全 今日观点
- 韩国街头小广告盗用景甜照片 工作室发维
- 【机构调研记录】永赢基金调研纽威数控、
- 今日讯!武汉古琴台旅游好玩吗_武汉古琴
- 卢卡申科:如拜登想要乌克兰和平,我愿在
- 不可逾越的生态保护“红线”_世界微速讯
- 海锅股份: 关于申请向特定对象发行股票
- 今热点:S8韩服高胜率虚空先知玛尔扎哈上
- pococ55官方宣传图曝光网友:这不得充一
- 世界微动态丨中金财富证券和中金公司有什
- 港股异动 | 固生堂(02273)升6% 预计22
- 母亲节贺卡怎么做
- 四有好老师标准下师范生培养研究_四有好
- 奥比岛梦幻国度第二宫_奥比岛梦幻国度第
- 车辆牵引力控制是什么意思_牵引力控制是
- 5月13日是什么日子(节日、纪念日)|即时
- 王者荣耀:法师和打野到底该帮谁,有没有
- 倪妮井柏然的曝光恋情 当前头条
- 快报:手工叶子制作大全图片简单_手工叶
- 爱课扩音器教程_爱课扩音器
- 汽车没电2人高速上推行600多米 :怕麻烦
- 环球要闻:pawn_说一说pawn的简介
- 广州追求广告有限公司 每日聚焦
- 当前观察:海程邦达(603836)2月15日主
- 世界今热点:qq账号注册方法 qq账号3种
- HR管理系统的五大选择特点
- 新贵妃醉酒舞蹈教程独舞_新贵妃醉酒舞蹈
- 世界观察:旺成科技过会:今年IPO过关第3
- 人教版三年级下册《数学广角--搭配》教案
- 世界新消息丨时令野菜上市 昆明发布最新
- 视点!美媒:俄亥俄州化学品运载火车脱轨
- 环球速讯:《三国演义》读后感300字5篇
- 如何制作冰灯
- 用逼上梁山怎么造句
- 今日辟谣(2023年2月14日)
- 天天快消息!党员个人对照检查材料10篇
- 肉兔养殖闯出致富路 天天热讯
- 计算机二级考试各科目时间安排_天天时快讯
- 全球实时:青岛海牛官方:宿茂臻任中方教
- 老太太过生日送什么礼物好 当前快看
- 世界看点:内蒙古包头:延伸产业链 发展
- 微动态丨立春应该吃什么
- 江苏高中毕业证模板图片_江苏中专毕业证
- 物价涨、出口跌!台湾经济怎么了? 当前
- 当前视讯!第九届全国大众冰雪季暨“健康
- 不可逾越的生态保护“红线”_世界微速讯
- 海锅股份: 关于申请向特定对象发行股票
- 今热点:S8韩服高胜率虚空先知玛尔扎哈上
- pococ55官方宣传图曝光网友:这不得充一
- 世界微动态丨中金财富证券和中金公司有什
- 港股异动 | 固生堂(02273)升6% 预计22
- 母亲节贺卡怎么做
- 四有好老师标准下师范生培养研究_四有好
- 奥比岛梦幻国度第二宫_奥比岛梦幻国度第
- 车辆牵引力控制是什么意思_牵引力控制是
- 5月13日是什么日子(节日、纪念日)|即时
- 王者荣耀:法师和打野到底该帮谁,有没有
- 倪妮井柏然的曝光恋情 当前头条
- 快报:手工叶子制作大全图片简单_手工叶
- 爱课扩音器教程_爱课扩音器
- 汽车没电2人高速上推行600多米 :怕麻烦
- 环球要闻:pawn_说一说pawn的简介
- 广州追求广告有限公司 每日聚焦
- 当前观察:海程邦达(603836)2月15日主
- 世界今热点:qq账号注册方法 qq账号3种
- HR管理系统的五大选择特点
- 新贵妃醉酒舞蹈教程独舞_新贵妃醉酒舞蹈
- 世界观察:旺成科技过会:今年IPO过关第3
- 人教版三年级下册《数学广角--搭配》教案
- 世界新消息丨时令野菜上市 昆明发布最新
- 视点!美媒:俄亥俄州化学品运载火车脱轨
- 环球速讯:《三国演义》读后感300字5篇
- 如何制作冰灯
- 用逼上梁山怎么造句
- 今日辟谣(2023年2月14日)
- 天天快消息!党员个人对照检查材料10篇
- 肉兔养殖闯出致富路 天天热讯
- 计算机二级考试各科目时间安排_天天时快讯
- 全球实时:青岛海牛官方:宿茂臻任中方教
- 老太太过生日送什么礼物好 当前快看
- 世界看点:内蒙古包头:延伸产业链 发展
- 微动态丨立春应该吃什么
- 江苏高中毕业证模板图片_江苏中专毕业证
- 物价涨、出口跌!台湾经济怎么了? 当前
- 当前视讯!第九届全国大众冰雪季暨“健康
- 招商银行朝朝宝和余额宝哪个好 从4方面
- 国家能源局:截至2022年底全国累计核发绿
- 影子有哪些好处和坏处 每日视讯
- 给妈妈的礼物送什么|环球关注
- 天天速递!永远都没有终结的事是什么动物
- 好兄弟生日送什么礼物比较好
- 天天热议:网络的分类 具体有哪些分类
- 世界快资讯丨湖南株洲:主城区餐饮企业今
- 新资讯:重庆巫山:长江三峡旅游市场回暖
- 环球热点!队报:复出时间再度推迟,博格
- 天龙股份董秘回复:目前参股公司尚未达到
- 美容养生馆卖试用装抑菌液一瓶768元,无
- 天地在线董秘回复:公司与北京天地互连信
- 【欧亚外语】想要雅思阅读高分!一定要避
- 穗恒运A:融资净偿还61.8万元,融资余额
- 今日精选:金沙遗址博物馆,除了太阳神鸟
- 送自己花送什么比较好
- 女儿生日妈妈送什么礼物好_环球微头条
- 明明同一人,演完《卿卿日常》再演《显微
- 2020年几月几号放寒假_2020年几点打春