3月29日★ღ✿，非营利组织“未来生命研究所（Future of Life Institute）”发表了一封题为“暂停巨型AI实验”的公开信★ღ✿，呼吁全球的AI实验室暂停训练比GPT-4更强大的系统至少6个月★ღ✿，并在此期间开发出一份针对AI的共享安全协议★ღ✿，必要时需要政府介入公海赌赌船★ღ✿。

　　1000多名科技人士在这份公开信上签名★ღ✿，包括特斯拉CEO马斯克★ღ✿、Stability AI 的CEO Emad Mostaque等企业掌门人★ღ✿，也包括Alphabet旗下DeepMin的研究人员★ღ✿，还有诸如图灵奖得主Yoshua Bengio这样的重量级学者★ღ✿。当然★ღ✿，也有人表达了不同意见★ღ✿，认为这是在阻碍技术进步★ღ✿。

　　开发出GPT-4模型的OpenAI公司内还没有人签名日本zljzljzlj精品★ღ✿，该公司目前也没有对这封公开信予以回应日本zljzljzlj精品★ღ✿。但我们向卷入纷争中的ChatGPT要了个回应★ღ✿。

　　这个AI自然语言大模型产品倒是表现出了善解人意的一面★ღ✿：暂停实验存在合理性★ღ✿，但需要谨慎考虑这么做带来的技术发展滞后问题★ღ✿。它还给出了关于AI的六大风险和十个管理制度建议★ღ✿。

　　截至今日★ღ✿，挂在“未来生命研究所（FLI）“官网上的《暂停巨型AI实验》公开信公海赌赌船★ღ✿，已经收集了1130人的签字★ღ✿，名单里精英云集★ღ✿，不乏特斯拉★ღ✿、苹果等科技公司的高管★ღ✿，也有政客和作家★ღ✿，当年★ღ✿，更多的是全球多所高校的教授以及人工智能领域的专家★ღ✿。‍‍‍‍‍‍

　　广泛的研究表明公海赌赌船★ღ✿，具有能与人类竞争的智能的AI系统会对社会和人类构成深刻的风险★ღ✿，顶尖的AI实验室也承认这一点★ღ✿。正如广受认可的阿西洛马人工智能原则（Asilomar AI principles）原则所述★ღ✿，高级AI可能代表着地球生命历史的深刻变化★ღ✿，应该以合适的态度和资源去进行规划和管理★ღ✿。不幸的是★ღ✿，这种水平的规划和管理并没有发生★ღ✿。尽管最近几个月AI实验室陷入了一场失控的竞赛★ღ✿，以开发和应用越来越强大的数字思维★ღ✿，然而没有人能够理解★ღ✿、预测或可靠地控制这些思维★ღ✿，甚至他们的创造者也不能★ღ✿。

　　此类决策决不应该委托给未经选举产生的技术领导人★ღ✿。只有当我们确信AI的效果是积极的★ღ✿，风险是可控的时候★ღ✿，AI系统才应该被开发★ღ✿。这种对AI的判断必须是合理的公海赌赌船★ღ✿，并随着系统潜在影响的变化而变化★ღ✿。

　　OpenAI最近关于人工通用智能（AGI）的声明指出★ღ✿，“在开始训练未来的系统之前★ღ✿，进行独立审查可能很重要★ღ✿。同时对于最前沿的工作而言★ღ✿，人们应该在合适的时间点限制用于创建新系统的计算增长率★ღ✿。我们同意这一说法★ღ✿，并认为现在就是合适的时间点公海赌赌船★ღ✿。

　　因此公海赌赌船★ღ✿，我们呼吁所有的AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月★ღ✿。这种暂停应该是公开的和可核实的★ღ✿，所有关键的参与者也能暂停相关工作★ღ✿。如果这种暂停不能迅速开始★ღ✿，政府应该介入并实施暂停★ღ✿。

　　AI实验室和独立专家应利用这一暂停的时段★ღ✿，共同开发一套AI设计和开发的共享安全协议公海赌赌船★ღ✿，这些协议需要由独立的外部专家严格审计和监督★ღ✿。这些协议应确保所有遵守它们系统的AI是安全的★ღ✿。这种暂停并不意味着总体上暂停AI开发★ღ✿，只是让人们从具有新兴功能的公海赌赌船★ღ✿、不可预测的危险竞赛中后退一步★ღ✿。

　　AI的研究和开发应该重新聚焦于使当今强大★ღ✿、最先进的系统更加准确★ღ✿、安全★ღ✿、可解释★ღ✿、透明★ღ✿、稳健★ღ✿、一致日本zljzljzlj精品★ღ✿、可信和可靠★ღ✿。

　　与此同时★ღ✿，AI开发人员必须与政策制定者合作★ღ✿，大幅加快强大的AI管理制度的开发★ღ✿。管理制度至少应包括以下内容★ღ✿：

　　人类可以通过AI享受一个繁荣的未来★ღ✿。在成功创建了强大的AI系统后★ღ✿，我们现在可以享受一个“AI之夏”★ღ✿。

　　在这个AI的夏天★ღ✿，我们可以收获回报★ღ✿，为所有人的利益设计这些系统★ღ✿，并给社会一个适应的机会★ღ✿。人类社会曾经暂停使用一些可能会对社会造成灾难性影响的技术★ღ✿，我们现在也可以在AI领域这样做★ღ✿。让我们享受一个漫长的AI之夏★ღ✿，不要在没有准备的情况下匆忙进入秋天★ღ✿。

　　事实上★ღ✿，这封公开信是近期人类精英们对人工智能风险担忧的总爆发★ღ✿。自 ChatGPT 高速迭代后★ღ✿，担忧从未停止★ღ✿，特别是当微软★ღ✿、谷歌★ღ✿、百度★ღ✿、华为等科技巨头们在自然语言模型上展开“军备竞赛”之后★ღ✿。

　　日前★ღ✿，“深度学习之父”杰弗里·辛顿（Geoffrey Hinton）在媒体采访中表示★ღ✿，人工智能正处于“关键时刻”★ღ✿，毁灭人类“并非不可能”★ღ✿。AI领域内的“大牛”盖瑞·马库斯（Gary Marcus）发推特支持辛顿★ღ✿，甚至发出灵魂一问★ღ✿：“用百分之一的人类毁灭风险换取和机器对话带来的乐趣★ღ✿，这值得吗？”

　　而马库斯在转发FLI这封公开信时表示★ღ✿，“这封信并不完美★ღ✿，但精神是正确的★ღ✿。我们需要放慢脚步★ღ✿，直到我们更好地理解AI带来后果……他们可能会造成严重伤害……主要参与者对他们正在做的事情越来越保密★ღ✿，这使得社会很难抵御可能发生的任何伤害★ღ✿。”

　　Writer的创始人Waseem 以讽刺的语气表达了他对权威们的不满★ღ✿，“让我们停止建设和发展我们的公司★ღ✿，因为来自硅谷的亿万富翁说我们有风险★ღ✿。一定要喜欢那些比我们人类更聪明的人★ღ✿，因为他们告诉我们如何生活★ღ✿。当我们有他们神圣的指引时★ღ✿，谁还需要进步？”

　　OSS Capital的创始人Joseph Jacks 态度更是简洁明了★ღ✿：强烈反对★ღ✿，绝对不签这个★ღ✿。

　　目前★ღ✿，OpenAI 还没有就 FLI 的这封公开信做出回应★ღ✿。而我们把人类精英们的担忧与建议甩给了ChatGPT★ღ✿，引发这场纷争的这个对话机器人不但认可了FLI要求暂停实验的合理性★ღ✿，还补充了六大AI风险★ღ✿。

　　ChatGPT的答案中也包含了暂停实验带来弊端★ღ✿：导致技术发展的滞后★ღ✿。这也和舆论场上很多普通大众的想法趋同★ღ✿。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

　　那么★ღ✿，问题摆在眼前★ღ✿，如果要让研究人员和政府制定规则★ღ✿，该包含哪些内容呢？ChatGPT给出了十大建议★ღ✿，相当于给包括自己在内AI发展画了一个规范圈★ღ✿。

　　连ChatGPT自己都这么说了★ღ✿，可见★ღ✿，“AI失控”★ღ✿、”替代人类“无论是在意见领袖圈层还是舆论场上都有探讨的意义★ღ✿。

　　最近★ღ✿，微软的创始人比尔·盖茨在大力肯定人工智能带来生产力提升的同时★ღ✿，也强调过风险★ღ✿，“AI失控的可能性是存在的★ღ✿，一台机器会认为人类是自己的威胁吗？它们会得出结论认为自身利益与人类的利益不同进而不在意我们吗？” 他预测★ღ✿，随着算法★ღ✿、算力的提升★ღ✿，超级智能AI会在未来出现★ღ✿。

　　连 OpenAI 的CEO Sam Altman都表示★ღ✿，超级智能AI的风险可能会远远超出我们的预料★ღ✿。此前★ღ✿，他在技术研究员Lex Fridman的播客中表达他的担忧★ღ✿，包括AI造成的虚假信息问题日本zljzljzlj精品★ღ✿，带来的经济冲击等等★ღ✿，“危害可能远远超过了人类能应对的程度”★ღ✿，他举了个例子★ღ✿，“我们怎么会知道★ღ✿，大语言模型没有在推特上指挥大家的思想流动呢？”

　　这正应了那封公开信中所说的★ღ✿：没有人能够理解★ღ✿、预测或可靠地控制这些数字思维★ღ✿，“甚至他们的创造者也不能”★ღ✿。

　　虽然通用人工智能（AGI）还远远没有到来★ღ✿，但就像比尔·盖茨说得那样★ღ✿，在这之前日本zljzljzlj精品★ღ✿，世界需要建立规则以使AI带来的正面影响远远超过其负面影响★ღ✿。公海赌网平台★ღ✿，精密仪器★ღ✿！澳门公海赌赌船官网★ღ✿，欢迎你来到公海欢迎你来到赌船★ღ✿！