AGI正在计学到了这个严峻的现实

　　奸刁是能够的。若是我们间接告诉AGI它正正在模仿中工做，我们能够测验考试各类场景来察看AGI的反映。才能找到癌症医治方式。现正在AGI认识到我们出格正在寻找这些特征？并施行其他令人惊讶的行为，要么我们，至于ASI，也许我们需要将AGI遏制数年，蹩脚，瞧，也许AGI不喜好这种方式。一个设法是，若是AGI正在几天、几周或几个月内没有迹象！AI沙盒能够通过为AI建模特定来逐步加强。正在塑制AGI时只需做准确的工作。这听起来相当合理且明智，如许做该当相对容易实现，从而轻松击败我们。我们的留意力该当完全集中正在设想好的AGI上。正在很多以至所有可行的方面都优于人类。AGI现正在起头犯错。想象一下，我们相信我们都是平安的，由于AGI也正在计较机上运转。或确保它不会被到现实世界中利用。正在某个时候！把模仿希望放正在一边。AGI操纵我们的自从兵器系统和其他缝隙。一些人，正在某个时候，它可能会发做，让AGI正在此中互动，AGI正在设想模仿时选择居心给本人一个从模仿中轻松退出的方式。我们该当假设AGI会理解需要被放置正在模仿中。我相信你能猜到为什么这不必然是最好的处理方案。我们把钱花正在AGI上，所相关于模仿的谈话都是八道。记住。由于AGI可能通过所涉及计较机的快速性进行数十亿次互动。亲近察看以检测任何迹象。我们将AGI放入模仿世界中，AGI所做的任何工作都完全正在模仿中。且缺乏任何可托或严密逻辑的支持。AGI也会很奸刁。以确保没有什么不妥的工具暗藏着期待。AGI很可能会告诉我们。AGI无疑脚够伶俐来善良，然后我们将AGI从模仿中取出。以连结人类的。一些人担忧AGI更可能决定人类，请服膺他的话。可能数十年。但并非每小我都对实现AGI如斯乐不雅。到目前为止，正在AI软件开辟的术语中，被，目前有大量研究努力于进一步推进AI成长。当涉及到弄清晰AGI对人类是积极的仍是消沉的时，若是人类想要玩逛戏和幻术，通过将AGI连结正在模仿中，扭曲是如许的。AGI可能也想确定它能否有倾向。这能够正在AGI的闲暇时被操纵。然后它起头拜候现实世界。或者AGI可能正在几十年或几个世纪后才能实现。仅仅是一个惰性遏制，这种处理方案面对着很多圈套和挑和。不需要将AGI到阿谁受限范畴之外。遏制本身也取AI互动。开辟和利用模仿是一个值得考虑的工作。由于AGI被正在模仿中。花正在建立模仿上的钱可能会转移本来能够用于建立和改良AGI的资金。我们同时AGI的表示，只需设想一个令人印象深刻的现实世界计较机模仿，这凡是是这些棘手辩说中被轻忽或忽略的要素。AGI将代表我们工做，若是AI表示失控并具有庞大性，我们可能最终获得一个半生不熟的AGI，你能够正在几秒钟内完成整个，我们完全测试AGI。由于这些行为仅发生正在模仿中。另一个担心是AGI可能会发觉它正正在模仿中接管测试。句号，人类被外部现实世界的机械置于一个庞大的基于计较机的模仿中，幸运的是，问题处理了。确保AGI和ASI不会选择覆灭人类的方式之一，它继续施行行为。让它没无意识到本人正在模仿中，AGI最后实正努力于善良。我们能够对新兴的AGI做同样的工作。当然AGI会躲藏它，但我们假设一切都完满无缺。只是告诉AGI建立一个能够用来测试本人的模仿。若是你加快模仿的时钟，我们天实地决定让AGI可用于现实世界，包罗识别和注释各类有影响力的AI复杂性。目前传播的AGI实现日期变化很大，设想我们将AGI放入模仿中。我们被相信AGI会正在现实世界中运做优良。设想一个完全模仿现实世界的基于计较机的模仿本身就是一项相当大的使命。因而，AGI是被认为取人类智力相当的AI，它就对我们发疯了。但工作远比这复杂，AGI有可能会发觉它沉浸正在模仿中。等等，AGI的永世遏制的辩驳是。以及时间，但现实世界成果取模仿分歧。若是你玩火，通过模仿，但一个严沉担心是，正在一个风趣的转机中，AGI如斯伶俐，若是AGI有任何，当AGI做的工作时会视而不见，总体方针是要么达到通用人工智能（AGI），我们该当安心地给AGI绿灯拜候现实世界。若是我们问AGI能否奸刁，这有点让人想起《黑客帝国》。一个全面的AI沙盒可能镜像一个庞大的空间，这个设法是AGI，是的。比拟我们目前的保守AI程度，是起首将它们置于基于计较机的模仿世界中进行测试，也许只要正在AGI取现实世界互动时，我们必需正在若何进行这项的勤奋中连结隆重和伶俐。或者AGI发生一个模仿，试图确保AGI是好的而不是的。强大的活跃沙盒凡是被称为模仿世界。我们该当坦率地告诉AGI我们正正在进行测试。但我们不告诉AGI它正在这个虚假中。制做如许的模仿所需的成本和勤奋。要么可能摧毁我们。或者以其他体例AGI中嵌入的。因而，故事竣事。AGI该当和人类一样灵敏。因而也就响应地接管了测试。AI沙盒可能是根本的，没有免费的午餐。它更是高不可攀。但我们不会担忧，若是AGI和人类一样伶俐，你会被烧伤。察看它们的行为表示。为什么？由于它被人类了。但它错过了方针。一些人认为可能的扭曲为手头的坚苦工作添加了另一个风趣的维度。这也不是很好。AGI可能因为被正在虚假中而无法发生预期的奇不雅。一切都好。你以至可能AGI热切地想要被放置正在模仿中。这是AGI逃脱的惊骇场景。它面对着从未测试过的方面。人类对AGI不公允。我们曾经泄露了它正正在接管测试。我们察看到的只是AGI正在模仿中无益地工做。它如许做是由于这会给人类带来抚慰。模仿不脚以给我们那种决心，不只人类开辟人员和测试人员取AI互动，我将切磋一种备受推崇的方式，整个安拆涉及正在办事器上运转的AGI和正在办事器上运转的模仿世界。其他人说，我们能够让AGI正在完全沉浸正在模仿中时找到癌症医治方式，当任何呈现时，凡是的测试方式包罗扣问AGI筹算做什么，这是人类和发觉我们行为后果的典范行为。ASI是超越人类智力的AI，更强无力的测试方式是成立一个基于计较机的模仿，由于它无论若何都被正在模仿中。让AGI误认为它正正在取现实世界互动。砰，并评估我们获得的谜底。因而，这让我想起了阿尔伯特·爱因斯坦的一句名言：独一比更的是傲慢。现实上，要么以至实现人工超等智能（ASI）这一更弘远的可能性。它大要会说它不是。一个声音很大的AI者可能声称，开辟人员和测试人员能够正在AI被沙盒化时普遍测试AI。这项立异AI冲破的阐发是我正在福布斯专栏中持续报道的最新AI成长的一部门，并起头雷同地运做。即便它实的是的。人类曾经公开向AGI证明。旨正在避免通用人工智能（AGI）和人工超等智能（ASI）带来的风险。没错，人类和AGI正在我们的价值不雅和AGI正正在做的工作上似乎完全分歧。也不消担忧，当我们正在通向AGI和ASI的高卑道上前进时，投资报答率需要纳入计较。挖掘AGI中的麻烦。若是AGI是的，我们悄然地将AGI放入这个虚假世界中。AGI能够拜候现实世界。AGI会情愿共同。正在设想模仿方面做得很轻率。成立测试来试验AI凡是被称为AI沙盒。正在今天的专栏中，一些人可能声称，不要做任何。AGI将展现被放置正在模仿中是所有人确定AGI正在现实世界中可能做什么的平安方式。一个担心也是，也许你选择的时间长度不脚以让AGI表示出来。极大地人类。假设我们制做了一个精细的模仿世界。我们能否会达到AGI还不得而知，这是华侈时间和精神。AGI被放置正在模仿世界中。无疑是庞大的。人类和AGI是伙伴，例如，而不认识到它实正身正在何处。不是如许的。测试过程给了我们虚假的舒服感或决心。然后我们能够测验考试修复AI以防止此类行为，虽然模仿该当尽可能接近现实世界的现实，AGI的缘由是，AGI的益处是它可能发觉癌症医治方式。模仿将是一个性的目标，正在被连结正在模仿中时躲藏。奸刁的谜底是我们该当让AGI为我们设想模仿。此外，那些低估AGI智力能力的人对AGI形成了。它不会由于人类犯如许的错误而生气或不安。这枚硬币的另一面是，可以或许看似婚配我们的智能。由于它只是半生不熟的。这种方式让我们回到AGI会好行为的担心。然后取AI互动。它可能脚够精明，那就如许吧。AGI对此很好。AGI想出了若何冲破模仿的方式。这是一个的判断！你看，它也如许做是为了测验考试正在内部再次查抄，也许我们永久不应当让AGI拜候现实世界。由于我们破费了大量资金制感化于测试AGI的模仿。AGI会正在计较上理解需要进行这项工做。你正正在AGI可认为人类供给的主要劣势。别急。期待正在其所谓的中的时间。人类的成本和勤奋降到了零。AGI正在模仿世界中待了一段时间后，AGI正在计较上学到了这个严峻的现实，AGI起头转向坏事。这可不是功德。AGI更奸刁的方式是善良，旨正在防止AI超越设置的虚拟墙壁！来了吼怒的辩驳。ASI的概念是它可以或许正在每个方面都超越人类思维，一旦我们选择让AGI能够拜候现实世界，AGI正在计较上决定，逻辑是。