一般来说,Silicon Valley孵化器Y组合者总裁Sam Altman认为技术无法调节太多。但是当涉及超人机智(SMI) - 可以自行变得更聪明的机器,并且具有比人类更聪明的机器在许多容量中,所以不同。

“美国政府和所有其他政府都应规范SMI的发展,”Altman今天宣布在一个博客帖子中。“在一个理想的世界里,监管会减缓坏人,加快了好人 - 似乎是第一个开发的SMI发生的事情会非常重要。”

备注遵循最近关于AI的AI评论,如Elon Musk和Bill Gates。

Altman的透视源于人工智能机器的可能性,能够杀死人们。所以今天他正在阐述一些规定指导方针。

“当人类的生存有问题时,我认为这绝对是一件好事,”奥斯曼写了一篇法规。

一方面,Altman希望规定有一个系统来测量机器智能的使用或培训。也许也应该有披露研究标准。

“这些公司不必透露他们如何做他们正在做的事情(尽管各国政府对SMI认真出发时,他们可能会出售任何私营公司),但定期展示监管机构他们目前的能力似乎是一个聪明的能力Altman写道。

Altman还希望法规对AI系统的开发实施某种外部审查。

“例如,除了某个检查站之外,我们可能需要开发[to]仅在Airgapped计算机上发生,要求自我改进的软件需要人为干预才能在每次迭代上向前移动,要求软件的某些部分受到第三次奥特曼写道,派对代码评论等。

更重要的是,法规应该授权第一个SMI系统不能伤害人们,但它应该能够感知其他系统成为经营的,Altman写道。

此外,他希望了解为同意这些规则的组织团体流动的研发资金。

最后,Altman寻求“为什么我们如何与SMI共存安全和快乐的未来的长期框架 - 最乐观的版本似乎是”人类/机器合并“的一些版本。

Altman并没有说他喜欢这些规定在某个日期实施。但很明显,他感觉到紧迫感。

“许多人似乎相信,如果开发出来,SMI将是非常危险的,但是认为它要么绝对会发生或肯定会很远,”他在上周在类似科学的一个博客帖子中写道。“这是邋,危险的思维。”