随着Astra和Opus 5.5的发展，我开始强烈感受到奇点般的潮汐力量。在我的许多研究项目以及其他事情中，从一个想法的火花到完整项目的转变只需几天或几小时，而不是几年或几周。一方面，这是一种美好的感觉，另一方面，一旦你反思其轨迹，你会发现它很快就会变成几小时和几分钟，之后不久就会超出你自己的理解范围。我很好奇那个特定的时刻——当想法开始按照你的意愿自由流动，或者你开始看到它们自由流动的时候。我认为我们还无法完全理解这一点，但我们当然可以想象这种情况。一个极度流动的可能性世界。我想知道智能的哪些方面将保持抵抗力。是否有某种被低估的智力方面是我们遗漏的，它不会屈从于研究自动循环、奇点越界之类的？我认为我们对智能的了解还不够，无法判断。仍有待观察。非常期待看到这一切。它可能很危险，但也会非常启发人心。
引用：今晨发表了一篇新论文：《如果自动化 AI 研发引发智能爆炸会怎样》。作者包括 Jakub Pachocki、Geoffrey Hinton、Yoshua Bengio 和 Jack Clark。他们表示，政策制定者应要求获得更多透明度，了解公司目前在多大程度上已自动化了自身的模型开发，以及它们内部距离递归自我改进（RSI）还有多远。