业界动态
马斯克、苹果联合创始人等签名公开信,呼吁暂停训练比GPT-4更强大的AI系统
2024-12-01 18:33
马斯克、苹果联合创始人等签名公开信,呼吁暂停训练比GPT-4更强大的AI系统 马斯克

美通社消息:包括SpaceX、特斯拉和推特的首席执行官伊隆·马斯克(Elon Musk)、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Mila - Quebec AI Institute创始人兼科学总监Yoshua Bengio在内的数千名人工智能和技术领域的关键参与者共同签署了一封由Future of Life Institute发起的公开信,要求人工智能实验室立即停止对比GPT-4更强大的人工智能系统的培训,为期至少六个月。

马斯克、苹果联合创始人等签名公开信,呼吁暂停训练比GPT-4更强大的AI系统

 

 

在信中,签名者明确指出,AI系统的智能可以与人类相媲美,可能对社会和人类构成严重威胁。因此,应实施为期六个月的暂停期,期间将开发和实施一套协议,使这些强大的人工智能系统更加准确、透明和值得信赖。

 

以下是一些主要的共同签署方:

 

 

附:公开信全文翻译

 

暂停巨型 AI 实验:一封公开信

 

大量研究表明并得到顶级 AI 实验室的认可,具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。正如被广泛认可的Asilomar AI 原则中所描述的那样,高级 AI 可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——都无法理解、预测、或可靠地控制。

 

当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:我们是否应该让机器用宣传和谎言充斥我们的信息渠道?我们应该自动化所有的工作,包括令人满意的工作吗?我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维?我们应该冒险失去对我们文明的控制吗?我们不可以将此类决定委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。OpenAI最近关于通用人工智能的声明指出,“在某个时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的工作来说,人们应该在合适的时间点限制用于创建新系统的计算增长率。” 我们同意,而当下就是这一时候。

 

因此,我们呼吁所有 AI 实验室立即暂停至少 6 个月的比 GPT-4 更强大的 AI 系统训练。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。

 

人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,无可置疑。这并不意味着总体上暂停 AI 开发,只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。

 

人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统,更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

 

与此同时,AI 开发人员必须与政策制定者合作,以加快开发强大的 AI 治理系统。涵盖内容至少应包括:专门负责 AI 的新的和有能力的监管机构;监督和跟踪高性能人工智能系统和大量计算能力;出处和水印系统,以帮助区分真实与合成并跟踪模型泄漏;强大的审计和认证生态系统;人工智能造成的伤害的责任;为技术人工智能安全研究提供强大的公共资金;以及资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏。

 

    以上就是本篇文章【马斯克、苹果联合创始人等签名公开信,呼吁暂停训练比GPT-4更强大的AI系统】的全部内容了,欢迎阅览 ! 文章地址:http://fabua.ksxb.net/news/3271.html 
     文章      相关文章      动态      同类文章      热门文章      栏目首页      网站地图      返回首页 海之东岸资讯移动站 http://fabua.ksxb.net/mobile/ , 查看更多   
最新文章
手机内存卡读不出来怎么办手机不读卡怎么回事「手机内存卡读不出来怎么办」
手机内存卡读不出来怎么办  如今很多人都会使用手机内存卡来扩展内存,可是很多时候都会出现内存卡无法读取的问题,那么手机内
华为(HUAWEI)Mate X5 折叠屏手机x5手机「华为(HUAWEI)Mate X5 折叠屏手机」
随着科技的不断发展,已经成为人们日常生活中不可或缺的一部分。而(HUAWEI)作为全球领先的通信技术公司,一直致力于为用户提供
探秘诺希(NOHON)手机电池:质量靠谱还是太一般?爱疯手机「探秘诺希(NOHON)手机电池:质量靠谱还是太一般?」
从小就痴迷电子产品的我,每次换手机都会对配套的电池十分关心。毕竟,一个好的电池不仅仅能够延长手机的使用时间,还能给我的电
免费更新|尚医智信THC系统6.2.1版本更新上线thc手机「免费更新|尚医智信THC系统6.2.1版本更新上线」
点击蓝字关注我们2月17日,尚医智信THC系统6.2.1版本更新上线,这是2022年升级的第2个版本,主要对THC One医院管理系统、THC Air
挤眉弄眼是梅杰综合征吗?梅杰综合症的症状手机综合症「挤眉弄眼是梅杰综合征吗?梅杰综合症的症状」
挤眉弄眼是梅杰综合征吗?梅杰综合症的症状 “我妈从一年前开始,眼皮总是不停地跳,后来就不由自主地眨眼,非常频繁,有时每分钟
荣耀90Pro密码忘记怎么办荣耀手机找回「荣耀90Pro密码忘记怎么办」
最近几年,荣耀都会推出新机型,其中这款手机的配置十分出色,深受用户们的喜爱。但是在使用过程中可能会遇到荣耀90Pro密码忘记
工业安全新高度:防爆手机在科技时代的应用与未来展望工业手机「工业安全新高度:防爆手机在科技时代的应用与未来展望」
在当今科技飞速发展的时代,工业领域对安全和高效通讯设备的需求愈加迫切。在这样的背景下,防爆手机应运而生,成为各行业提升工
传奇游戏加速器永久免费版手机游戏加速器「传奇游戏加速器永久免费版」
传奇游戏加速器永久免费版刀刀有激情,很多专属神器都能够玩的十分热血开心,游戏的厮杀超级热血,平时你还可以招募老战友一起组建
ivvi SK5怎么样?ivvi SK5手机全面详细评测图解ivvi是什么牌子的手机「ivvi SK5怎么样?ivvi SK5手机全面详细评测图解」
 在4月18日的发布会上,ivvi除了带来和超多维合作的首款裸眼3D新品ivvi K5之外,在当天的体验区还展出了多款新品,其中就包括这