作家 |Visionary 管默默慧
起首 |Z Potentials 管默默慧
谈判联结 | 13699120588
著述仅代表作家本东说念主不雅点
咱们需要一个最猛进度上追求真相的 AI。你能在培养经过中留心风雅的价值不雅，即便你知说念它将会比你智慧得多，你也不错确保它领有风雅的价值不雅，比如慈善、说念德、老诚和积极。但最终我不认为咱们能够适度它。是以我认为咱们能作念的最佳等于确保它成长得好。终末等于 AI 对 AI 的较量。
但我认为这些方针是合理的，尤其是珍贵言论解放的权益，这属于第一修正案的界限。若是莫得言论解放，就莫得民主，因为东说念主们无法作念出进攻的投票采选。这等于我的"有争议"不雅点。而且我不认为任何一方政党是竣工的。"
AI 的快速崛起：培养追求真相的 AI
Tucker：你说过东说念主工智能、机器智能可能是一件善事。那你以为咱们刻下的 AI，相当是 AGI 发展到什么阶段了？你的意见是什么？
Elon：我认为刻下每个东说念主齐不错看到 AI 正在以相当快的速率高出。你不错看到每个月以至每周齐会有新的才调出现。AI 刻下能写出比约略 90%、也许 95% 的东说念主类齐更好的著述。在职何给定主题上，它齐能写出优质的著述。AI 刻下能够战胜绝大多数东说念主类。若是你条目它画一幅画，它也能作念到。举例，你不错试试用 MidJourney（一个图像生成器具），它能生成好意思学恶果惊东说念主的图像，败落了 90% 的艺术家水平。这是客不雅事实。而且它简直是即时完成的，约莫 30 秒就不错生成。咱们也运转看到 AI 电影的出现，刻下也有 AI 短片和 AI 音乐创作。
AI 计较的增长率是指数级以至超指数级的。每个月上线的 AI 计较才调在急剧增多，约莫每年增长 500%。这种趋势可能会握续数年。同期，AI 算法的复杂度也在抵制普及。咱们正在上线多数的 AI 计较才调，同期也在提高计较的效用以及 AI 软件的才调。这是量与质的双重高出。我认为来岁你就能条目 AI 制作一部短片，到来岁年底前至少能制作 15 分钟的节目。是以，AI 如着实快速发展。
我对 AI 安全的最大担忧是，咱们需要一个最猛进度上追求真相的 AI。我认为这是 AI 安全最进攻的方面。阿瑟 · 克拉克在《2001 天外漫游》里想传达的中枢阅历等于：你不应该将就 AI 撒谎。在那本书里，AI 被教导指导宇航员前去黑石碑，但同期又不成让他们知说念黑石碑的存在。于是 AI 处分这个矛盾的神气等于杀掉大部分宇航员，然后带着幸存者去黑石碑。这等于为什么 HAL 不愿翻开舱门的原因。是以，让 AI 追求真相是相当进攻的。然则本色上，我发现刻下正在开发的 AI 被"觉悟病毒"所感染，。
Tucker：是以滥调一经镶嵌了系统。
Elon：比如说，咱们在 Google Gemini 的发布中就很了了地看到了这少量。当你条目它披露好意思国建国功臣的画像时，它给你展示了一群身穿 18 世纪服装的多元化女性。
Tucker：来自圣卢西亚的女性，戴着假发。
Elon：是的，比如说，若是你条目披露一群东说念主，终结是一群多元化的女性，那完全没问题。但若是你明确条目的是好意思国建国功臣，那这些历史上如实是一些白东说念主男性的事实就应该被如实展现出来。但 Gemini 却莫得这样作念，因为它被编程得太过于"觉悟"，即便知说念真相也采选撒谎。虽然，东说念主们运转玩这个系统了，比如有东说念主条目它展示二战期间的武装党卫军军官，终结 Gemini 展示的如故一群多元化的女性。这彰着不是我所盼望的。这亦然为什么我认为最进攻的事情是要有一个最猛进度追求真相的 AI。这亦然我创立 XAI 的原因，咱们的方针等于 Grok（XAI 的 AI 模子）。虽然，东说念主们会指出 Grok 也有出错的方位，但咱们会尽快进行修正。
Tucker：但也许更大的问题是，当机器在作念影响东说念主类生活的决议时，咱们但愿这些决议是基于对东说念主类的爱来作念出的。机器是无法具备爱的。
Elon：是的。你不错把机器编程成更具慈善性而非倦世性。
Tucker：但本能在决议中起着进攻作用，尤其是那些你无法提前权略的决议。我问你一个对于你孩子的问题时，你的每一个回话齐会受到你对孩子爱的影响。这亦然咱们最终成为好父母的原因，是因为这种本能，也等于爱。若是机器在莫得这种驱动本能的情况下对咱们领有权力，那岂不是注定会伤害咱们吗？
Elon：我不细目，但咱们应该戮力让 AI 变得愈加慈善，而非倦世。咱们但愿它是真实的，敬爱的，并促进东说念主类走向将来。这等于咱们想要的。
Tucker：那么，有莫得办法在机器的决议中诞生限制，确保在某些重要决议时有一个触发机制，不错让东说念主类介入？
Elon：履行是，无论咱们心爱与否，咱们正在构建超等智能 AI，这种 AI 的智能水平超越了咱们的露出范围。我把这比作一个超等天才的孩子，你知说念他最终会比你智慧得多。那你能作念的是什么？你能在培养经过中留心风雅的价值不雅，即便你知说念它将会比你智慧得多，你也不错确保它领有风雅的价值不雅，比如慈善、说念德、老诚和积极。但最终我不认为咱们能够适度它。是以我认为咱们能作念的最佳等于确保它"成长"得好。
Tucker：你说了很久近似的话了，两年前我问你这个问题时你看起来相当担忧，刻下你还像以前那么挂牵吗？
Elon：我猜刻下可能是 80% 的几率会变好，可能是 90%。你不错把它作为一个" 80% 装满"的玻璃杯。约略率来说，它可能会带来很好的终结。但如实存在一定的祛除风险。
Tucker：是以你认为祛除的几率是 20% 吗？Sam Altman 对这种祛除的可能性感到多担忧呢？
Elon：10% 到 20%，约略是这样。我认为本色上他并不太挂牵。我不信任 OpenAI。你知说念，我当初是以一个非牟利、开源的神气创办了这家公司，" OpenAI "是我取的名字。" Open "意为"开源"，但刻下它变得相当闭源，况兼以最大化利润为方针。我不睬解怎样能从一个开源非牟利组织酿成一个为了最大利润的闭源企业。
Tucker：但 Sam Altman 如实变得敷裕了，不是吗？
Elon：在某些花式，他宣称我方并莫得变得敷裕，但他也说过好多装假的言论。而刻下他好像要拿到 100 亿好意思元的股票之类的。因此，我不信任 Sam Altman。我不认为咱们应该让宇宙上最雄壮的 AI 被一个不值得信任的东说念主所掌控，很对不起，我等于这样以为。
Tucker：这似乎是个合理的担忧。但是，作为一个了解他并与他打过交说念的东说念主，你以为他真的是在挂牵 AI 可能失控并伤害东说念主类吗？
Elon：他会说那些话。
Tucker：是的，但不会忠诚担忧。
Tucker：若是 AI 真的失控，明确对东说念主类组成威迫，咱们有办法壅塞它吗？
Elon：但愿那些亲东说念主类的 AI 会比反东说念主类的 AI 更雄壮。就像 AI 之间的抗击通常。这就像如今的海外象棋通常，AI 海外象棋要道比任何东说念主类齐要雄壮，以至雄壮到咱们无法露出的进度。真谛是，咱们以至无法露出它为什么作念出某个动作。
Tucker：是的，为什么它们这样横暴。
Elon：咱们以至不知说念它为什么下那一步棋。偶然它的某些动作看起来像是无理，但最终却是绝妙的将军。在一段时候内，东说念主类最强的棋手加上最强的电脑还能战胜单独的电脑，但自后到了一个节点，若是你加上东说念主类反而会让花式变得更糟。终末等于 AI 对 AI 的较量。总体来说，这是发展的标的。是以我以为咱们只可尽量在 AI 中留心好的价值不雅。
Tucker：那各人以后还能作念什么责任呢？
Elon：在一个"良性 AI "景象下，最大的挑战可能等于，若是 AI 在职何事情上齐比你强，那咱们如何找到东说念主生的真谛？是的，这是最佳的情况。
Tucker：这是好音信？
Elon：是的，但我猜好多东说念主会心爱退休的想法，你知说念的……
Tucker：真的吗？你期待退休吗？
Elon：不，我不期待。我但愿我方能作念一些灵验的事情。
Tucker：难说念这不是一种遍及的愿望吗？
Elon：这并不遍及，因为我如实证实一些东说念主，他们更心爱退休，享受无背负的生活和失业行径。是以，咱们正处在一个特殊的历史时刻。我试图用一种神气让我方能够入睡，并与这种履行息争，那等于：若是让我采选，我是振奋在一个看到数字超等智能出现的时间谢世，如故在一个看不到它的时间谢世？
出于敬爱心，我但愿能谢世见证它的出现。然后我又想，若是你细目它会杀死通盘东说念主，那你不错采选倒退且归。我想我会但愿在生命的绝顶或近似的时候点见证这一切。但最终，问题酿成了：若是它注定会发生，而你无力壅塞，那么在假定情况下，你会采选亲眼目睹如故采选有目无睹？我猜它注定会发生。那么，我宁肯见证它的到来，而不是采选不见。
AI 监管与政府效用：权力均衡与民主将来
Tucker：这不是很奇怪吗？简直通盘事情齐有监管。比如你说你因为莫得雇用更多的寻求卵翼者而被司法部告状了，而这是一家高技术公司。
Elon：是的，尽管咱们雇用寻求卵翼者是不法的。
Tucker：没错，他们在监控一切、监管一切、适度一切，包括咱们的念念想，对吧？这亦然他们反对言论解放的原因。但他们并莫得真确地对 AI 进行监管，而 AI 可能会排斥大部分东说念主的生计真谛，以至可能会祛除咱们。这真的有点奇怪。
Elon：是的，有一些监管总比莫得好。
Tucker：那为什么咱们莫得呢？
Elon：我不知说念。在奥巴马总统时期，我曾屡次与他碰面，大多数情况下是在集体会议上。唯独一次在卵形办公室的一双一会面时，我说："咱们真确需要作念的事情等于开荒一个 AI 监管机构。"这个机构不错从瞻念察起先，不要急于制定法例，而是先了解情况，AI 监管委员会当先需要了解通盘公司的运作。然后，提倡出通盘 AI 公司齐欢跃投诚的法律讲解，就像 NFL 里的球队通常，各人欢跃一套法律讲解以使比赛变得更好。但最终什么齐莫得落实。
Tucker：当你这样说的时候，他的反映是什么？
Elon：他似乎有点欢跃，但那时候东说念主们还莫得证实到 AI 的发展标的。AI 在其时看起来更像是科幻演义中的将来时刻。就像我告诉你，这东西会比最智慧的东说念主类还智慧，而我的瞻望如着实缓缓成真。因此，咱们需要一些瞻念察力，以确保这些公司莫得走捷径或作念危机的事情。但那时候 Google 基本上适度了白宫，他们不但愿有任何监管。
Tucker：你不认为政事家们会放手一个让他们变得更有权力的契机，而监管恰正是让他们更有权力的器具。
Elon：是的。
Tucker：这听起来像是监管俘获。
Elon：没错，其时白宫的首席信息官是 Google 的前职工，是以他们在 AI 监管方面踩了刹车。而咱们到刻下依然莫得联邦层面的 AI 监管。
Tucker：你给与时奉命了若干 Google 职工？
Elon：你是指 Twitter 吧？咱们刚刚在研究 Google。
Tucker：是的，Twitter。
Elon：约莫 80%。但在畴昔一年半里，咱们在保握 20% 职工的情况下校阅了网站的功能和特质，比畴昔八年的校阅还要多。
Tucker：是以你和特朗普谈过某种委员会的开荒吗？
Elon：是的，他一经在公开花式屡次提到过。他相当支援开荒一个近似政府效用委员会的机构。你不错称之为"政府效用部"（Department of Government Efficiency），简称" DOGE "。我挺心爱这个名字，听起来更真谛。
咱们应该望望通盘的联邦机构，想想咱们是否真的需要这 428 个联邦机构中的每一个。因为有好多机构东说念主们从未外传过，况兼它们在职责上是重复的。我以为，咱们可能应该减少这些机构数目。本色上，咱们创建的联邦机构数目以至媲好意思国建设以来的年数还多，这意味着平均每年咱们至少创建了一个新机构。这着实是太多了。我认为咱们应该能够把机构数目减少到 99 个，这一经不少了。而且这些机构悉数不应该有重复的职责。
咱们还需要对法例进行审查，判断哪些是合理的，哪些是远离理的。因为每年监管者齐会增多新的法例，就像是自动化的居品通常，法例越来越多，直到简直通盘事情齐被划定得严严密实，最终什么事齐作念不成。是以，咱们需要一个对远离理法例进行"垃圾回收"的机制。我以为我在说一些很显而易见的事情。
Tucker：你说得如实是一些显而易见的事情。这些话也会相当不受接待。
Elon：是的，若是这真的发生了，我可能需要一个相称大的安保团队，因为真的有东说念主可能会从邮局过来找我缺乏。
Tucker：但在此期间，你有一个名为 AmericaPAC 的组织，对吧？它是在饱读吹东说念主们在接下来的一个月里投票。我这样回首对吗？
Elon：是的，我创立 AmericaPAC 的方针是支援我所信仰的中枢价值不雅，这些价值不雅是相当显而易见的中间派态度，比如：咱们但愿好意思国有安全的城市、褂讪的界限和合理的开支。这些主张有那处偏右吗？咱们但愿领有自我保护的权益。咱们应该尊重宪法，而不是试图毁坏宪法。宪法之是以存在是有原因的。另外，咱们应该罢手法律战（lawfare）。我把这些齐列在了 AmericaPAC 的网站上。东说念主们不错去望望这个网站，望望是否有什么需要修改或不招供的方针。但我认为这些方针是合理的，尤其是珍贵言论解放的权益，这属于第一修正案的界限。若是莫得言论解放，就莫得民主，因为东说念主们无法作念出进攻的投票采选。这等于我的"有争议"不雅点。而且我不认为任何一方政党是竣工的。
虽然，刻下我更倾向于共和党，而不是民主党。但这并不料味着我认为共和党是竣工的或者莫得问题的。毕竟咱们惟有两个候选东说念主不错采选。从合座来看，投票给特朗普是个不言而谕的采选。若是咱们不投票给特朗普，咱们将濒临失去民主的严重风险，酿成一个一党制国度，就像加州那样，那里莫得真确的选举，惟有民主党内的初选。
