AI教父离开Google 忏悔并警告人工智慧的风险
Google computer scientist Geoffrey Hinton, who has made significant contributions to the development of artificial intelligence, has left the technology giant to warn the world of the “existential risk” posed by AI systems to humans. https://t.co/gDkxcLDxJz
— The Washington Post (@washingtonpost) May 2, 2023
“AI教父”辛顿（Geoffrey Hinton）于昨日（1日）证实，上周已经辞去Google的工作。辛顿接受《纽约时报》采访时坦言后悔毕生心血，并且警告AI可能变得比人类更聪明。辛顿是多伦多大学电脑科学系教授。
台湾ETtoday新闻网报道，75岁的辛顿在神经网络领域取得开创性成就，因而深刻形塑现代科技使用的人工智慧系统。他在Google工作逾10年并且参与AI研发计划，如今却开始担忧这项科技和自己在推动AI中扮演的角色。
辛顿担心AI可能削减工作机会，创造出一个许多人“再也无法分辨真相”的世界。他指出，AI惊人的发展速度已经远超出他与其他人的预期，“有一种想法认为，这个东西真的会变得比人类更聪明，一些人这么认为，但大多数人觉得差得远了。我也曾觉得太离谱，我认为还差了30到50年，甚至更久的时间。显然，我不再这么认为了。”
辛顿坦言，以前“我用常见的借口安慰自己，如果我没有做，别人也会做的”，如今离职并不是为了批评Google，“我离开是为了谈论AI的危险，又不用考虑这会如何影响Google。Google的行为非常负责任。”
2021年，辛顿在孟买印度科技学院演讲时就曾表示，“我相信AI的快速发展将以一个我们不完全理解的方式改变社会，并非所有影响都会是好的。”他指出，AI将能促进医疗保健，同时也为致命自动化武器创造机会，“我认为，这个前景比机器人取代人类更直接也更可怕”，后者反而还有很长一段路要走。
去年6月，Google工程师勒莫因（Blake Lemoine）在网络公开对话纪录，宣称AI聊天机器人LaMDA具备感知能力，甚至就像一个“7、8岁的孩子”，但此说法遭到许多AI界人士强烈反弹，他也因为违反员工及数据安全政策被开除。
CNN写道，ChatGPT热潮进一步推动科技业的“军备竞赛”，OpenAI、微软及Google处于趋势前列，IBM、亚马逊、百度及腾讯也在研究类似技术。不过，越来越多立法者、倡议团体及科技业人士警告，AI聊天机器人可能散播假消息及取代人类工作。今年3月，特斯拉执行长马斯克与逾千名科技巨头连署发表公开信，呼吁停止训练AI系统至少6个月，理由是“对社会及人类的深刻风险”。
Tue, 02 May 2023 15:30:16 GMT 原文链接🔗：