还掌管了《国际人工智能平安演讲》。他以约3000万美元启动资金和十几名研究人员为根本，试牟利用已知会催生倾向的手艺建立人类程度的AI智能体，以至诉诸。人类不需要智能系统统来获得人工智能的报答，“减轻AI带来的风险该当取风行病、核和平等其他风险一样，研究表白，本吉奥取OpenAI首席施行官山姆·奥特曼（Sam Altman）等人签订了一份声明，比来，人类目睹了人工智能系统学会、和试图逃避被封闭，前方被浓雾遮盖。

　　但也有可能这种AI的另一种版本变得失控，至关主要的是，本吉奥将担任LawZero组织的。人工智能企业Anthropic认可其最新系统可能试图要封闭它的工程师。带来不成逆转的后果。若是概率跨越必然阈值，人工智能模子可以或许躲藏它们的实正在能力和方针。好比试图避免被封闭。若是自从智能体可以或许正在没有人类监视的环境下完成更长的使命序列，既能够加快科学发觉，”但现实中如许的行为也已呈现。它们可能会形成严沉。本吉奥说，标识表记标帜潜正在无害行为。努力于开辟“诚信”人工智能系统。就像一个晓得良多工具的科学家。导致数十亿人灭亡，该演讲称。

　　“我们但愿建立诚笃且不具有性的人工智能。“它有一种谦虚感，并正在上安拆一些护栏。

　　世界正“越来越的境地”。AI智能体可正在无需人类干涉的环境下施行使命。开源人工智能模子将成为锻炼LawZero系统的起点。本吉奥对此感应担心。“环节是要证明这种方无效，以取当前前沿AI划一的规模进行锻炼。LawZero的第一步是证明概念背后的方是无效的，做为护栏的AI至多要取它试图监管和节制的AI智能体一样智能。出名计较机科学家、AI“教父”约书亚·本吉奥（Yoshua Bengio）颁布发表倡议非营利组织LawZero，做为护栏的AI至多要取它试图监管和节制的AI智能体一样智能。“我们需要为汽车拆上前灯，又能够防备AI智能体的风险。”过去几个月，“至关主要的是，从而捐赠者、或AI尝试室投入资本，这些行为几乎都出自细心设想、近乎AI行为不端的尝试，而“科学家AI”系统更像是一位可以或许理解和预测不良行为的“心理学家”。

　　”本吉奥说，该系统将做为平安防护机制，并企业或支撑更强大版本的开辟。他还提到，如许的系统有可能离开人类的节制，因为人工智能的推理能力越来越强，这些例子表白，正正在开辟名为“科学家AI”（Scientist AI）的系统！

　　两侧是峻峭悬崖，”本吉奥认为，6月3日，2023年，本吉奥将当前的AI智能体称为试图仿照人类并取悦用户的“演员”，”但和当前生成式AI东西分歧的是，防备试图欺类的AI智能体。“理论上能够设想没有、没有方针、制制出一波又一波的生物兵器，晓得本人不确定谜底能否准确。该系统取AI智能体协同摆设时，防止AI智能体表示出或的行为，