人性化的Google助手引发道德问题

admin 2018-05-14

新的Google数字助理很自然地交谈,看起来像是一个真正的人。

这位技术巨人本周发布的听起来很自然的机器人助理让一些观察者惊叹,但是让其他人对可能使用人类软件的道德观念感到不安。

谷歌首席Sundar Pichai播放了谷歌助理的录音,他们独立地呼吁美发沙龙和一家餐厅进行预订 - 与那些显然没有意识到他们正在处理人工智能软件而不是真正客户的员工互动。

阅读更多\'全球领先的'技术在纽约州抓住短信司机

告诉Google智能助理在下午6点预定一张四人桌,它倾向于以人声尖叫的语音拨打电话,并伴有\“语音歧视\”,如\“ums \”和\“uhs \”。

“这是人们在收集他们的想法时经常做的事情,”谷歌工程师Yaniv Leviathan和Yossi Matias在一篇Duplex博客文章中表示。

谷歌助理人工智能增强了“Duplex”技术,让它像电话中的真人一样让人感到惊讶,对于一些令人不安的明星而言,这位互联网巨头本周的年度开发者大会将在其家乡山景城,加州。

数字助理还编程了解何时快速响应,比如有人说“你好,”,而不是在回答复杂问题之前暂停一下。

一群人看着Google助理软件开发工具包制作人员在Mountain ViewAAP的Google I / O会议上借鉴语音命令

谷歌发布了增强型助理,这对于那些缺乏客户可以用来预约的网站的繁忙的人和小企业来说是一个潜在的好处。

“我们助理的愿景是帮助你完成任务”,Pichai在谷歌I / O会议上告诉大约7000名开发人员,以及周二在线观众观看他的流媒体演示。

谷歌将在未来数月内测试数字助理的改进。

阅读更多教育部长呼吁禁止教室内的移动电话

现实的robocallers

Duplex演示之后很快就会出现辩论,人们是否应该在接听电话时告诉人们说话时,他们是否在与人声尖叫的软件交谈,以及营销人员或政治活动如何以更令人信服的“robocalls”形式滥用该技术。

“到目前为止,Google Duplex是#IO18中最令人难以置信,最恐怖的东西,”推特产品设计师克里斯梅西纳的产品设计师的简历中包含谷歌,并将推特标签的想法推给Twitter。

Google Duplex目前是#IO18中最令人难以置信,最恐怖的事情......示例用例:Google智能助理呼叫美发沙龙预约预约。预约约会的人不知道她正在与人工智能交谈。人类很快成为昂贵的API终端。 pic.twitter.com/qUYwZTpxAE

- 克里斯梅西纳(@chrismessina)2018年5月8日

根据世界经济论坛中心人工智能和机器学习项目负责人Kay Firth-Butterfield的说法,Google Duplex是一项重要的发展,并且表明迫切需要找出能够让人们认为自己是人类的机器的适当治理。第四次工业革命。

“这些机器可以代表政党呼吁,并提出更有说服力的投票建议,”Firth-Butterfield推断道。

“孩子们能够使用这些代理并接收他们的电话吗?”

数字助理为人们做出安排也提出了谁应对错误负责的问题,例如在错误的时间对未预约或取消预约费的问题。

在人们对网络隐私问题高度担忧的时候,人们也担心会有哪些类型的数据数字助理可能会收集数据,以及谁能够访问数据。

“我的感觉是,只要人们知道他们这么做,总的来说,人们不介意与机器说话。”在Duplex博客文章下面的一个聊天论坛中,读到一篇写给Lauren Weinstein的帖子。

在Twitter上发表的一系列评论认为,不允许人们知道他们正在与软件进行交谈,这是违反道德规范的。

“如果你长大了看着像我这样的”星际迷航TNG“,那么你可能认为自己与电脑的语音互动是未来的事情,”安德烈亚斯谢弗在博客聊天论坛上阅读一篇文章。

“好吧,看起来未来就在这里。”


点赞: