图灵奖得主 Yoshua Bengio:不能让少数科技公司来制定 AI 规则


IT之家 11 月 5 日消息,据 Business Insider 当地时间周六报道,曾获得图灵奖、被称为“AI 教父”的加拿大计算机科学家 Yoshua Bengio 在近期一次采访中呼吁,AI 领域被少数科技公司控制的可能性,将会是该技术带来生存风险之后的“第二大问题”。

Yoshua Bengio 在采访中表示,人类应当对 AI 领域的权力集中感到担忧,ChatGPT 的出现使他更加担心这一问题 —— 由谁来控制这些(指 AI)系统。他强调,人们应该避免规则由那些巨头制定的情况,政府需要确保在制定规则的时候,不能只听取科技公司们的意见,而是应该在监管方面确保公众的安全和道德考量处于中心位置。

此外,他对 Meta 公司首席 AI 科学家杨立昆(Yann LeCun,法国人)“AI 不会毁灭人类”的看法予以反对,并表示这种说法是危险和错误的。“我认为,在没有任何有力证据证明这不可能发生的情况下,提出这种论调是很危险的,他太轻视 AI 的风险了。”

IT之家注:Yoshua Bengio 曾在贝尔实验室与杨立昆共事,两人因深度学习领域的工作在 2018 年共同获得图灵奖。