我的 X 阅读

我的关注 科学物理人工智能 神奇小子 动物世界

神奇小子 · 3000 / 3000 条

已同步 102 个列表成员 · 当前内容涉及 122 位作者

更新 10-09 17:12

重置

3000 条 · 第 184/200 页 · 刷新

Alexandr Wang @alexandr_wang
09-27 08:40 · 原帖
你内心有两个狼 引用:怎么会可能呢,这篇写得如此优美的文章竟然出自同一个家伙之手,这个家伙却用缪斯的臀部照片塞满了我的整个动态????
Henry Shevlin @dioscuri
09-27 08:18 · 原帖
(我更广泛的担忧是我们需要更好地解释,AI如何可能追求与我们目标相悖的目标,而无需误解指令或拥有不合理的生物驱动力。例如,我不认为平克的那篇文章真正探讨了这些可能性。)
Derrick Choi @derrickcchoi
09-27 08:09 · 原帖
系好安全带!我们快到了 引用:OpenAI DevDay 还有 72 小时。 我们一直在构建。是时候展示我们的成果了。
Derrick Choi @derrickcchoi
09-27 08:06 · 原帖
是时候建造了! 引用:重置所有已传播的。就是这样。祝你周末愉快。
Henry Shevlin @dioscuri
09-27 08:02 · 原帖
是的,我的担忧主要是沟通问题。人们听到“错误目标”就会想到“被误解的指令”(“但大型语言模型在这方面很擅长?”)。所以我想传达的是,那些理解指令但不追求它们的系统的风险。当然,生殖/繁殖的类比在这里很有用。
Drake Thomas @MaskedTorah
09-27 08:02 · 原帖
我最支持ASI对齐原则上可行的论点是,我们可以上传一位才华横溢、思想深刻、真心渴望实现CEV未来的人类,并让十万亿个这样的人类以1000倍的速度共同运作——这可能距离ASI的极限还很远,但这绝对算得上是一种超级智能。
Drake Thomas @MaskedTorah
09-27 07:57 · 原帖
我认为你的第二个论点有点站不住脚——即便我们对最易于人类理解的人工智能设计有了类似的理解,也未必能得出“我现在明白为什么这种人工智能绝对不会采取杀人行动”这样的结论。而且,问题似乎并非出在智力差距上:即使你放宽标准,允许人工智能在所有认知领域都比我笨两个标准差,我仍然不知道该如何设计出一个我一眼就能验证不会采取恶意行动的人工智能。
CTFTHEORY @mathmaticulous
09-27 07:46 · 原帖
宇宙镜像理论:如果要在石头上刻一个数字,你会选择 7129 从简单的开始。取数字 144,然后观察它周围每隔 24 个数字:1、25、49、73、97、121。总共六个数字。 将第一个数字和最后一个数字相加:1 + 121 = 122。将第二个数字和最后一个数字相加:1 + 121 = 122。
Jeff Dean @JeffDean
09-27 07:25 · 原帖
很骄傲能与许多其他人合作完成其中相当多的事情! 引用:Claude 刚刚生成了这个关于谷歌历史的 2 分钟视频,它他妈的超赞。
Diogo Almeida @CompleteSkeptic
09-27 07:22 · 原帖
转帖:史蒂文·西诺夫斯基谈为什么 Jev 修复了他对 AI 的最古老抱怨:自然语言从来不是一个高效的界面。 “问问自己,有多少人真的、真的很擅长提问。不到一半的人能在会议中提出一个好问题。” “然后你有多频繁地看着答案,在它完成之前就感到非常沮丧,但你不得不支付所有这些钱来观看那七段文字慢慢输出……?” “我最喜欢的是它的输出是为概率编程设计的。” “与其说,‘这是客户服务问题吗?如果是,则路由到客户服务,否则路由到一般帮助台’,不如说,‘这是 80% 的客户服务问题。’ 那正是模拟。” “计算机科学中有整整 50 年的概率 if 语句研究。突然间,计算机科学中最酷的地方将是概率编程,而那正是 1960 年代和 70 年代的整个计算机科学。” “这并不全是新的。重新审视所有那些工作会非常有趣,因为那正是正在发生的事情。现在的 if 语句是 if X 百分比,而不是 if 总是。” “Jev 的工作方式几乎是一种自定义编程语言,即:这里是提示,返回一个百分比。然后你将它放入 if 语句中。” @stevesi
Henry Shevlin @dioscuri
09-27 07:17 · 原帖
我一直想在 Substack 上写篇文章,说说为什么我认为游戏是一种社会公益活动,以及它对我的认知和社交发展产生了多大的影响。不过在此之前,先来看看我的文章吧。https://t.co/NN2WbzQOpR
Quanta Magazine @QuantaMagazine
09-27 07:16 · 原帖
与斯蒂芬·霍金的观点相反,黑洞并非无法逃脱的牢笼。我们应该感谢全息摄影术,它为我们带来了这一结论。 https://t.co/iAkRWJSs3E
Jeff Dean @JeffDean
09-27 07:09 · 原帖
转帖:我们很高兴宣布,加州大学伯克利分校开设了一个新的AI应用于生物学教职职位,由@Berkeley_EECS和@CCBBerkeley联合开设。 请转发并与您网络中杰出的早期职业研究人员分享这个机会。 申请截止日期为2026年11月9日:https://t.co/9UCbg4wKON
Henry Shevlin @dioscuri
09-27 06:59 · 原帖
我越来越清楚地认识到,台阵优化和工具性融合是沟通人工智能风险的关键概念。如何让非专业人士也能快速理解这些概念,应该是安全领域工作的重中之重。
Henry Shevlin @dioscuri
09-27 06:32 · 原帖
转帖:旧金山标准报报道了@eleosai人工智能意识与福利会议,包括我关于人工智能人格的演讲。 正如报道所指出的,我认为在现阶段,对人工智能人格做出永久性的、非此即彼的决定是不必要的。即使我们暂且不考虑人工智能系统将来是否应该享有权利或承担义务,我们仍然需要考虑人工智能人格可能对人类和其他动物带来的所有风险和潜在益处;例如,根据人工智能人格的具体构建方式,它可能会导致人工智能的滥用或失控,但也可能有助于与人工智能实现稳定的合作和交易。 我们有很多方面需要考虑,而且应该仔细考虑。与此同时,我们应该专注于一般的人工智能安全法律和政策。 https://t.co/VoSJsFApvw