Andrej 连系他在斯坦福、OpenAI 和特斯拉的事情履历，，，，洞察到一个转变正在爆发——软件正在再次履历厘革。。。。。。我们已经进入了「软件 3.0」时代，，，，在这个时代，，，，自然语言成为新的编程接口，，，，而模子则完成剩下的事情。。。。。。 他探讨了这一转变为开发者、用户以及软件设计自己带来了什么，，，，并指出我们不但仅是在使用新工具，，，，更是在构建一种新型的盘算机。。。。。。 他将软件的生长划分为三个阶段：从人工编写指令的「软件 1.0」，，，，到以神经网络权重为焦点的「软件 2.0」，，，，再到由 LLM 开启的「软件 3.0」。。。。。。为了资助明确 LLM 的实质，，，，Karpathy 提出了多个类比，，，，其中最贴切的是将其视为一种「新型操作系统」。。。。。。它犹如 1960 年月的早期盘算机，，，，算力集中在云端，，，，用户通过类似下令行的界面举行交互。。。。。。这是一个功效强盛但仍处于很是初级的生态系统。。。。。。LLM 是「有缺陷的超人」：它们知识渊博，，，，但会爆发幻觉、犯初级过失且没有恒久影象。。。。。。因此，，，，我们必需学会在监视下使用其能力，，，，同时规避其不可靠性。。。。。。他以为，，，，目今最大的机缘并非完全自主的 AI，，，，而是「部分自主性」产品。。。。。。我们应构建像「钢铁侠战衣」一样增强人类能力的工具，，，，通过高效的人机协作循环来完成使命，，，，而非追求一步到位的自动化。。。。。。展望未来，，，，Karpathy 呼吁为 AI 重新设计数字基础设施。。。。。。目今为人类设计的网站和文档对 AI 并不友好，，，，未来的要害使命是使其变得机械可读、可操作，，，，从而为更高阶的 AI 智能体铺平蹊径。。。。。。 哇，，，，这里人真多。。。。。。「魅撕茫『苄朔芙裉炷芾吹秸饫，，，，和各人聊聊软件和人工智能时代。。。。。。我相识到在座有许多学生，，，，包括本科生、硕士生和博士生等，，，，你们即将进入行业。。。。。。我以为现在正是进入这个行业一个很是奇异、也很有意思的时期。。。。。。 我以为，，，，基础缘故原由在于软件又一次在爆发转变。。。。。。我说「又一次」是由于我着实已经做过这个演讲了。。。。。。但问题是，，，，软件一直在转变。。。。。。以是我着实有许多素材可以准备新的演讲，，，，并且我以为这种转变是尤为主要且影响深远。。。。。。 简陋地说，，，，软件在七十年里险些没有在基础层面上爆发太大转变。。。。。。然而，，，，最近几年它已经爆发了两次相当迅速的重大厘革。。。。。。因此，，，，现在有大宗的事情需要做，，，，有大宗的软件需要编写和重写。。。。。。 让我们来看看软件领域吧。。。。。。若是我们把这想象成软件的地图，，，，这里有一个很是棒的工具叫做「Github 地图」。。。。。。这就像是所有编写过的软件的一个汇总。。。。。。这些就是给盘算机的指令，，，，用来在数字空间里执行使命。。。。。。若是你放大这里，，，，这些都是差别类型的代码客栈，，，，而这些就是所有已经写好的代码。。。。。。 几年前，，，，我注重到软件正在爆发某种转变，，，，周围泛起了一种新型的软件，，，，其时我称之为「软件 2.0」。。。。。。这里的理念是，，，，软件 1.0 是你为盘算机编写的代码，，，，而 软件 2.0 基本上就是神经网络，，，，尤其是神经网络的权重。。。。。。 你并不是直接编写这些代码，，，，而是更多地调解数据集，，，，然后运行优化器来天生这个神经网络的参数。。。。。。我以为，，，，在其时，，，，神经网络被看作只是另一种分类器，，，，好比像决议树之类的。。。。。。因此，，，，我以为这种框架更为适当。。。。。。 现在，，，，现实上我们已经在软件 2.0 领域拥有了类似 Github 的平台。。。。。。我以为 Hugging Face 基本上就是软件 2.0 领域的 Github。。。。。。别的尚有 Model Atlas，，，，你可以在那里可视化所有「代码」。。。。。。 顺便说一下，，，，若是你好奇的话，，，，谁人重大的圆圈、中心的点，，，，现实上就是图像天生器 Flux 的参数。。。。。。因此，，，，每当有人在 Flux 模子之上微调 LoRA，，，，你基本上就是在这个空间里举行了一次 Git 提交，，，，从而创立了一种差别类型的图像天生器。。。。。。 简朴来说，，，，软件 1.0 就是我们编写的盘算机代码，，，，用来编程盘算机；；；；而软件 2.0 则是神经网络的权重，，，，也就是用来「编程」神经网络的工具。。。。。。这里举个例子，，，，好比说 AlexNet 图像识别神经网络。。。。。。 到现在为止，，，，我们熟悉的神经网络都类似于牢靠功效的盘算机，，，，好比把图像酿成种别之类的。。。。。。我以为真正爆发转变的是，，，，神经网络现在能够通过 LLM 变得可编程。。。。。。我以为这一点很是新颖和奇异，，，，它是一种新型盘算机。。。。。。以是在我心里，，，，值得给它一个新的称呼，，，，叫做软件 3.0。。。。。。 基本上，，，，你的提醒词现在就是用来编程 LLM 的程序。。。。。。并且很是神奇的是，，，，这些提醒词是用英语（自然语言）写的，，，，以是它酿成了一种很是有趣的编程语言。。。。。。 也允许以这样总结区别：好比说你在做情绪分类，，，，你可以想象写一些 Python 代码来实现情绪分类，，，，或者你可以训练一个神经网络，，，，或者你可以用提醒词去指导 LLM。。。。。。这里就是一个少样本提醒，，，，你可以想象通过改变它，，，，用稍微差别的方法编程盘算机。。。。。。 以是，，，，基本上我们有软件 1.0、软件 2.0，，，，并且我以为现在我们看到——也许你已经注重到——许多 GitHub 上的代码已经不但是代码了，，，，有许多英语夹杂在代码里。。。。。。以是我以为正在泛起一种新类型的代码。。。。。。 这不但是一种新的编程范式，，，，对我来说，，，，更神奇的是它用的是888集团母语——英语。。。。。。以是几年前这让我很是震惊，，，，我在推特上发了这个想法，，，，我以为引起了许多人的关注。。。。。。这就是我现在置顶的那条推文：「很是神奇的是，，，，我们现在在用英语编程盘算机。。。。。。」 当我在特斯拉的时间，，，，我们正在研发自动驾驶系统，，，，起劲让汽车能够自动驾驶。。。。。。那时间我展示了一张幻灯片，，，，你可以想象汽车的输入在底部，，，，它们通过一个软件栈来爆发转向和加速。。。。。。 其时我视察到自动辅助驾驶系统中有大宗的 C++ 代码，，，，那就是软件 1.0 的代码。。。。。。然后尚有一些神经网络在做图像识别。。。。。。我注重到，，，，随着我们让自动辅助驾驶系统变得更好，，，，神经网络的能力和规模都在增添。。。。。。除此之外，，，，所有的 C++ 代码正在被删除，，，，许多原本用 1.0 方法编写的功效和能力转移到了 2.0。。。。。。 举个例子，，，，从差别摄像头网络的图像信息以及跨时间的信息拼接，，，，许多都是由神经网络完成的，，，，这样我们就能删除许多代码。。。。。。以是软件 2.0 客栈现实上已经贯串了自动驾驶系统的软件栈。。。。。。其时我以为这很是了不起，，，，并且我以为我们现在又在履历同样的事情，，，，基本上我们有一种新的软件，，，，它正在「吞噬」整个软件栈。。。。。。 我们现在拥有三种完全差别的编程范式。。。。。。我以为若是你要进入这个行业，，，，熟练掌握这三种范式是很是有益的，，，，由于它们各有优劣。。。。。。你可能需要凭证情形选择用 1.0、2.0 或 3.0 范式来实现某些功效——好比该训练神经网络？？？？？照旧直接提醒 LLM？？？？？又或者应该编写显式代码？？？？？我们需要做出这些决议，，，，并且现实上可能需要在差别范式之间流通切换。。。。。。 好比：这台新型盘算机是什么？？？？？它长什么样？？？？？生态系统又是怎样的？？？？？多年前吴恩达（Andrew Ng）的一句话让我印象深刻（他应该在我之后讲话），，，，他说：「AI 是新型电力。。。。。。」 我确实以为这句话捕获到了一个很是有趣的焦点——现在的 LLM 确实具有基础设施属性。。。。。。像 OpenAI、Gemini、Anthropic 等 LLM 实验室投入资笔僻出训练模子，，，，这相当于建设电网；；；；然后通过运营支出将智能通过 API 提供应我们所有人。。。。。。会见方法是按量计费（例如按每百万 tokens 付费），，，，我们对这类 API 提出类似公共设施的需求：低延迟、高可用性、质量稳固性等。。。。。。 在电力系统中，，，，你可以用转换开关切换电网、太阳能、电池或发电机等电源。。。。。。在 LLM 领域，，，，我们可能有开放路由层（open router），，，，轻松在差别 LLM 供应商间切换。。。。。。由于 LLM 是软件，，，，不占用物理空间，，，，因此可以有多个「电力供应商」（例如六家），，，，用户可自由切换——事实它们不保存直接物理竞争关系。。。。。。 我以为这也挺有趣的，，，，并且这几天我们就看到了这种情形：许多 LLM 都宕机了，，，，人们就像被卡住一样无法事情。。。。。。我以为很有意思的是，，，，当最先进的 LLM 宕机时，，，，天下就像是履历了一次「智能断电」。。。。。。就像电网电压不稳时，，，，整个地球都变得更缓慢了一样。。。。。。我们对这些模子的依赖已经很是显著，，，，并且我以为这种依赖还会继续增添。。。。。。 我以为这个类比也有些模糊，，，，由于正如我提到的，，，，这是软件，，，，而软件的可防御性较低，，，，由于它很是容易改变。。。。。。以是我以为这是个挺有意思的思索点。。。。。。现实上你可以做许多类比，，，，好比 4 纳米制程节点，，，，或者某种具备最大算力的集群。。。。。。 你可以想象，，，，当你只用 NVIDIA 的 GPU 做软件，，，，而不做硬件时，，，，这有点像晶圆代工模式；；；；但若是你像谷歌那样自研硬件，，，，用 TPU 训练，，，，那就是像英特尔模式，，，，你拥有自己的晶圆厂。。。。。。以是我以为这里有一些合理的类比。。。。。。 但在我看来，，，，最贴切的类比可能是把 LLM 看作操作系统——它们不但仅是像电力或水那样的商品，，，，不是从水龙头里流出来的标准化产品，，，，而是日益重大的软件生态系统。。。。。。 我以为有趣的是，，，，这个生态系统的形成方法也很是相似：你有几个闭源提供商，，，，好比 Windows 或 macOS，，，，然后有开源的替换品，，，，好比 Linux。。。。。。关于 LLM 来说，，，，也有几个竞争的闭源提供商，，，，而 Llama 生态系统现在可能最靠近未来可能生长成类似 Linux 的角色。。。。。。 再次说明，，，，我以为现在还为时过早，，，，由于这些只是简朴的 LLM，，，，但我们最先看到它们将会变得重大得多。。。。。。这不但仅是关于语言模子自己，，，，还关乎所有工具的使用、多模态能力以及这些功效怎样协同事情。。。。。。以是当我前阵子意识到这一点时，，，，我实验把它画出来，，，，在我看来 LLM 有点像一种新的操作系统，，，，对吧？？？？？ 以是，，，，LLM 是一种新型盘算机。。。。。。它的焦点设置有点像 CPU，，，，上下文窗口有点像内存。。。。。。然后，，，，LLM 通过协调内存和盘算能力，，，，使用这里的所有功效？？？？？槔唇饩鑫侍。。。。。。因此，，，，从这个角度看，，，，它确实很是像一个操作系统。。。。。。 再举一些类比。。。。。。好比你想下载一个应用，，，，假设我要下载 VS Code，，，，我可以下载 VS Code，，，，并在 Windows、Linux 或 Mac 上运行它。。。。。。同样地，，，，你可以拿一个基于 LLM 的应用，，，，好比 Cursor，，，，然后可以在 GPT、Claude 或 Gemini 系列上运行它，，，，对吧？？？？？只需要在下拉菜单里选择一下。。。。。。以是在这方面也是类似的。。。。。。 另一个让我印象深刻的类比是，，，，我们现在似乎处于上世纪 60 年月的盘算纪元。。。。。。关于这种新型盘算机而言，，，，LLM 的算力仍然很是腾贵，，，，这迫使 LLM 必需集中在云端，，，，而我们都只是通过网络与其交互的「瘦客户端」，，，，我们中没有人能完全独吞这些盘算机的资源。。。。。。 因此，，，，接纳「分时共享」系统是合理的，，，，我们每小我私家都只是云端盘算机运行时批处置惩罚中的一个维度。。。。。。这与其时盘算机的形态很是相似。。。。。。操作系统在云端，，，，所有数据都是流式传输，，，，并且保存批处置惩罚。。。。。。 以是，，，，「小我私家盘算革命」尚未爆发，，，，由于它在经济上还不划算。。。。。。但我想，，，，有些人正在实验。。。。。。事实证实，，，，像 Mac Mini 这样的装备，，，，就很是适合运行某些 LLM，，，，由于若是你举行的是单批次（batch-1）推理，，，，整个历程是极其受限于内存带宽的，，，，而这恰恰是它的优势。。。。。。 我以为这些可能是小我私家盘算时代的一些早期迹象，，，，但这尚未真正爆发。。。。。。它未来会是什么样子还不清晰。。。。。；；；；蛐砟忝侵械囊恍┤私岱⒚鞒鏊鞘裁础⑺跹虑，，，，或者它应该是什么样子。。。。。。 我再提一个类比，，，，每当我在纯文本情形中与 ChatGPT 或某个 LLM 直接对话时，，，，我都感受自己像是在通过终端与一个操作系统对话。。。。。。它就是纯文本的，，，，是与操作系统的直接毗连。。。。。。并且我以为，，，，一个通用的 GUI 尚未被真正发明出来。。。。。。 好比，，，，ChatGPT 是否应该有一个逾越文本气泡的 GUI？？？？？虽然，，，，我们稍后会提到的一些应用确实有 GUI，，，，但还没有一种能贯串所有使命的通用 GUI，，，，若是你们能明确我的意思。。。。。。 在某些相当奇异的方面，，，，LLM 与早期盘算时代的操作系统有所差别。。。。。。我曾写过关于一个特征的文章，，，，这个特征在我看来这次是截然差别的。。。。。。 那就是 LLM 倾覆了通常保存于手艺中的手艺扩散偏向。。。。。。例如，，，，关于电力、密码学、盘算、航行、互联网、GPS 等许多厘革性手艺，，，，通常政府和企业是首批用户，，，，由于新手艺既腾贵又重大。。。。。。它只在后期才会扩散到消耗者层面。。。。。。 但我感受 LLM 把这个顺序倒置了。。。。。。早期盘算机可能完全是为了弹道学和军事用途，，，，但关于 LLM，，，，它的应用却是关于「怎样煮鸡蛋」之类的事情。。。。。。这确实是我的许多用法。。。。。。以是，，，，我们拥有了一台神奇的新型盘算机，，，，而它在帮我煮鸡蛋，，，，这对我来说太巧妙了。。。。。。它不是在资助政府做一些像军事弹道盘算或某些特殊手艺那样猖獗的事情。。。。。。 事实上，，，，企业或政府在接纳这些手艺方面，，，，反而落伍于我们通俗公共，，，，这完全是反过来的。。。。。。我以为这或许能启发我们思索该怎样使用这项手艺，，，，或者最早的应用会是什么样。。。。。。 以是，，，，总结一下现在为止的看法：我以为，，，，将 LLM 称为重大的操作系统是准确的说法。。。。。。它们就像是上世纪 60 年月的盘算机，，，，我们正在重新履历整个盘算演进的历程。。。。。。它们现在通太过时共享的方法提供，，，，像公共事业一样被分发。。。。。。而全新且史无前例的是，，，，它们不掌握在少数政府和企业手中，，，，而是掌握在我们所有人手中，，，，由于我们都有电脑，，，，而它只是软件。。。。。。ChatGPT 就像是瞬间被传送到了我们数十亿人的电脑上。。。。。。这太猖獗了。。。。。。我至今都以为这种情形的爆发很难以想象。。。。。。 现在，，，，轮到我们进入这个行业，，，，为这些盘算机编程了。。。。。。这太棒了。。。。。。以是，，，，我以为这是很是了不起的。。。。。。在我们为 LLM 编程之前，，，，我们必需花些时间思索这些工具究竟是什么。。。。。。我尤其喜欢谈论它们的「心理」。。。。。。我倾向于将 LLM 看作是「人类心智」，，，，它们是对人类的随机模拟。。。。。。 在这种情形下，，，，这个「模拟器」恰恰是一个自回归 Transformer。。。。。。Transformer 是一个神经网络，，，，它在词元（token）的层面上事情，，，，一块接一块地处置惩罚，，，，每个区块消耗的盘算量险些相等。。。。。。 虽然，，，，这个模拟器实质上包括一些权重，，，，我们用互联网上所有的文本数据等来拟合它。。。。。。最终你就获得了这样一个模拟器。。。。。。由于它是在人类数据上训练出来的，，，，它涌现出了类似人类的心理特征。。。。。。 以是，，，，你首先会注重到，，，，LLM 拥有百科全书式的知识和影象力，，，，它们能记着许多工具，，，，远超任何单小我私家类个体，，，，由于它们阅读了太多的工具。。。。。。这让我想起了影戏《雨人》，，，，我真的很是推荐各人去看。。。。。。这是一部很棒的影戏，，，，我很是喜欢。。。。。。达斯汀·霍夫曼在片中饰演一个学者症候群患者（autistic savant），，，，拥有近乎完善的影象力，，，，他可以读完一本电话簿，，，，然后记着内里所有的名字和电话号码。。。。。。 我以为 LLM 在某些方面很是相似。。。。。。它们可以容易记着 SHA 哈希值和许多差别种类的工具。。。。。。以是，，，，它们在某些方面简直拥有超能力，，，，但它们也有一系列的、我称之为「认知缺陷」的工具。。。。。。好比，，，，它们会相当频仍地爆发幻觉、胡编乱造，，，，并且没有一个很好的内部自我认知模子，，，，至少是不敷完善的。。。。。。这一点虽然有所改善，，，，但仍不完善。。。。。。 它们还体现出「锯齿状的智能」，，，，也就是说，，，，它们在某些解决问题的领域会体现出超人的能力，，，，但又会犯一些基本上任何人类都不会犯的过失。。。。。。好比，，，，它们会坚持以为 9.11 比 9.9 大，，，，或者坚持以为「strawberry」（草莓）这个单词里有两个「r」。。。。。。 这些都是一些著名的例子。。。。。。但基本上，，，，你总会遇到一些容易让你栽跟头的棘手问题。。。。。。以是，，，，我以为这也是其奇异之处。。。。。。它们（LLM）还患有「顺行性遗忘症」。。。。。。我这里想说的是，，，，若是你的公司来了一位新同事，，，，随着时间的推移，，，，这位同事会逐渐相识你的组织，，，，他们会明确并积累大宗关于组织的配景信息。。。。。。他们回家、睡觉、牢靠知识，，，，并逐渐建设起专业手艺。。。。。。 LLM 天生不会这样做。。。。。。并且我以为，，，，在 LLM 的研发领域，，，，这个问题也尚未真正解决。。。。。。以是，，，，上下文窗口现实上就像是「事情影象」，，，，你必需很是直接地去编程这段事情影象，，，，由于它们不会默认就变得更智慧。。。。。。 我以为许多人都被盛行文化中关于 AI 的类比误导了。。。。。。我推荐各人看两部影戏：《影象碎片》和《初恋50次》。。。。。。在这两部影戏中，，，，主角的「权重」是牢靠的，，，，他们的「上下文窗口」天天早上都会被清空，，，，当这种情形爆发时，，，，去上班或维持人际关系都变得很是有问题。。。。。。而这种情形时时刻刻都在所有 LLM 身上爆发。。。。。。 我想指出的另一点是与使用 LLM 相关的清静限制。。。。。。例如，，，，LLM 相当容易受骗（轻信），，，，它们很容易受到提醒词注入攻击，，，，可能会泄露你的数据等等。。。。。。别的，，，，尚有许多其他与清静相关的考量。。。。。。 以是，，，，长话短说，，，，你必需同时思索这个拥有超凡能力，，，，却又带着一堆认知缺陷和问题的工具。。。。。。我们该怎样驾驭它们？？？？？我们该怎样规避它们的缺陷，，，，同时又能享受到它们的超凡能力？？？？？ 我现在想切换到下一个话题，，，，谈谈我们该怎样使用这些模子，，，，以及其中最大的机缘是什么。。。。。。这并非一个详尽的清单，，，，只是我以为关于本次分享来说较量有趣的一些点。。。。。。我首先感应兴奋的是我称之为「部分自主性应用」的工具。。。。。。 举个编码的例子，，，，你虽然可以直接去用 ChatGPT，，，，随处复制粘贴代码、过失报告之类的工具，，，，获取代码，，，，然后再把所有工具都复制粘贴回来。。。。。。但你为什么要这样做呢？？？？？你为什么要直接通过这个「底层系统」来操作？？？？？拥有一个专门为此设计的应用程序要合理得多。。。。。。 以是我以为，，，，就像你们中的许多人一样，，，，我也在使用 Cursor。。。。。。Cursor 正是你想要的那种工具，，，，而不是直接去用 ChatGPT。。。。。。我以为 Cursor 是一个很是好的早期 LLM 应用的例子，，，，它具备了一系列我以为在所有 LLM 应用中都通用的、很是有用的特征。。。。。。 你会特殊注重到，，，，我们保存了一个古板界面，，，，允许人类像以前一样手动完成所有事情。。。。。。但除此之外，，，，我们现在有了 LLM 集成，，，，这让我们能以更大的代码块为单位举行操作。。。。。。 第一，，，，LLM 基本上处置惩罚了大宗的上下文治理事情。。。。。。 第二，，，，它们编排了对 LLM 的多次挪用。。。。。。以 Cursor 为例，，，，其底层有用于剖析你所有文件的嵌入模子，，，，尚有将代码差别（diffs）应用到代码中的谈天模子。。。。。。而这一切都为你自动编排好了。。。。。。 另一个我以为很是主要但可能未被充分欣赏的，，，，是特定于应用的 GUI 及其主要性。。。。。。由于你不会想直接通过文本与这个「底层系统」对话，，，，文本很难阅读、诠释和明确。。。。。。并且你也不想直接在文本中执行某些操作。。。。。。 好比，，，，以红色和绿色的高亮形式审查代码差别，，，，就要直观得多。。。。。。你可以清晰地看到哪些是新增的，，，，哪些是被删除的。。。。。。通过 Command + Y 接受或 Command + N 拒绝也要容易得多。。。。。。我不应该需要用打字的方法来完成这些，，，，对吧？？？？？以是，，，，GUI 允许人类审计这些易蜕化系统的事情，，，，并能提升效率，，，，这一点我稍后还会再谈。。。。。。 我想指出的最后一个特征，，，，是我所说的「自主性滑块」。。。。。。例如，，，，在 Cursor 中，，，，你可以只使用 Tab 键举行代码补全，，，，这时主要由你掌控。。。。。。你也可以选中一个代码块，，，，然后用 Command + K 只修改那部分代码。。。。。。你还可以用 Command + L 来修改整个文件，，，，或者用 Command + I，，，，这基本上就是让 AI 在整个代码客栈（repo）里为所欲为地修改。。。。。。这就是完全自主的、智能体化的版本。。。。。。以是，，，，你可以掌控这个「自主性滑块」。。。。。。凭证手头使命的重大性，，，，你可以调解你愿意为此使命放弃的自主水平。。。。。。 或允许以再举一个相当乐成的 LLM 应用的例子——Perplexity，，，，它也具有我适才在 Cursor 中指出的很是相似的特征。。。。。。它打包了大宗信息，，，，编排了多个 LLM 的挪用，，，，它有一个允许你审计其部分事情的 GUI。。。。。。 例如，，，，它会引用泉源，，，，你可以检查这些泉源。。。。。。它也有一个「自主性滑块」。。。。。。你可以只做一个快速搜索，，，，也可以举行通俗研究，，，，或者选择深度研究，，，，然后在 10 分钟后回来看效果。。。。。。这些都只是你付与工具的差别水平的自主性。。。。。。 以是，，，，我的问题是，，，，我感受许多软件都将变得部分自主。。。。。。我正试图思索那会是什么样子？？？？？关于你们中许多正在维护产品和效劳的人来说，，，，你将怎样让你的产品和效劳变得部分自主？？？？？LLM 能否看到人类能看到的一切？？？？？LLM 能否以人类能做的所有方法行动？？？？？以及，，，，人类怎样监视并坚持在整个流程中？？？？？由于，，，，重申一次，，，，这些都是易蜕化的、尚不完善的系统。。。。。。好比，，，，在 Photoshop 里，，，，一个「差别（diff）」看起来会是什么样的？？？？？ 并且，，，，现在许多古板软件，，，，它们有种种各样的开关和选项，，，，这些都是为人类设计的。。。。。。所有这些都必需改变，，，，变得能让 LLM 会见和使用。。。。。。 关于这些 LLM 应用，，，，我想强调一点，，，，我不确定它是否获得了应有的关注。。。。。。我们现在正与 AI 相助，，，，通常是它们认真「天生」，，，，而我们人类认真「验证」。。。。。。让这个「天生-验证」循环尽可能快地运转，，，，是切合我们利益的，，，，这样我们才华完成大宗事情。。。。。。 第一，，，，你可以极大地加速验证速率。。。。。。我以为 GUI 对此就极其主要，，，，由于 GUI 使用了我们每小我私家大脑中的「盘算机视觉 GPU」。。。。。。阅读文本艰辛又无趣，，，，但「看」工具很有趣，，，，它就像一条直通你大脑的高速公路。。。。。。以是我以为 GUI 以及种种可视化泛起方法，，，，关于审计系统很是有用。。。。。。 第二，，，，我想说的是，，，，我们必需「约束住 AI」。。。。。。我以为许多人对 AI 智能体过于兴奋了。。。。。。给我一个上千行代码的差别（diff）提交到我的代码客栈，，，，这对我是没有用的。。。。。。我仍然是瓶颈，，，，对吧？？？？？只管那 1000 行代码是瞬间天生的，，，，但我必需确保它没有引入新的过失，，，，确保它做的是准确的事情，，，，并且没有清静问题等等。。。。。。以是我想，，，，是的，，，，基本上，，，，让这个流程快速运转是切合我们利益的，，，，我们必需想法约束住 AI，，，，由于它太容易反应太过了。。。。。。 这有点像我在举行 AI 辅助编码时的感受。。。。。。若是我只是在举行「气氛编程」，，，，一切都很好很棒。。。。。。但若是我真的想完成事情，，，，有一个反应太过的智能体在那儿做种种事情，，，，感受就没那么好了。。。。。。以是这张幻灯片做得不太好。。。。。。 歉仄，，，，但我想，，，，和你们许多人一样，，，，我正试图探索出一些在我的编码事情流中使用这些智能体举行 AI 辅助编码的要领。。。。。。在我自己的事情中，，，，我总是畏惧收到过大的代码差别（diffs）。。。。。。我总是以小步、增量的方法举行。。。。。。我想确保一切都好，，，，我想让这个循环转得非？？？？？。。。。。。我倾向于处置惩罚小块的、详细的简单使命。。。。。。以是我想，，，，你们中的许多人可能也在形成类似的使用 LLM 的事情方法。。。。。。 我也看到过许多试图为 LLM 的应用总结最佳实践的博客文章。。。。。。这是我最近读到的一篇，，，，我以为写得相当不错。。。。。。它探讨了一些技巧，，，，其中一部分是关于怎样「约束」人工智能。。。。。。 举个例子，，，，若是你给出的提醒（prompt）很模糊，，，，那么人工智能可能无法准确地执行你的意图。。。。。。在这种情形下，，，，验证就会失败。。。。。。然后你就会要求它做别的事情。。。。。。若是验证失败，，，，你就会陷入重复修改的循环。。。。。。因此，，，，多花一点时间让提醒更详细会更有意义，，，，这能增添验证乐成的概率，，，，让你得以继续推进事情。。。。。。我想我们许多人最终都会发明类似的技巧。。。。。。 我以为，，，，我的大宗思索都集中在怎样约束 AI 上。。。。。。我不以为直接去对 ChatGPT 说「嘿，，，，教我物理」这种方法是可行的。。。。。。我以为这行欠亨，，，，由于 AI 很容易就会「在森林里迷路」（意指失去偏向）。。。。。。因此，，，，对我来说，，，，这着实是两个自力的应用程序。。。。。。 例如，，，，有一个供西席建设课程的应用程序，，，，然后有另一个应用程序，，，，吸收这些课程并将其提供应学生。。。。。。在这两种情形下，，，，我们现在都有了一个「课程」作为中心产品，，，，这个产品是可审查的，，，，我们可以确保它的质量是好的，，，，内容是一致的，，，，并且 AI 被约束在特定的教学纲要和项目进度妄想之内。。。。。。这是一种约束 AI 的要领，，，，我以为这种要领乐成的可能性要大得多，，，，AI 也不会迷失偏向。。。。。。 我还想提及另一个类比，，，，那就是我对「部分自主性」并不生疏。。。。。。我在特斯拉为此事情了五年。。。。。。那也是一个部分自主性的产品，，，，并具有许多配合的特征。。。。。。好比，，，，仪表盘上就是自动驾驶的 GUI，，，，它会向我展示神经网络所看到的工具等等。。。。。。我们尚有一个「自主性滑块」，，，，在我任职时代，，，，我们通过它为用户逐步增添了更多的自主使命。。。。。。 我想简朴分享一个故事，，，，我第一次乘坐自动驾驶汽车是在 2013 年。。。。。。我有一个在 Waymo 事情的朋侪，，，，他约请我在帕洛阿尔托（Palo Alto）体验一次。。。。。。这张照片是我其时用谷歌眼镜（Google Glass）拍的。。。。。。你们中许多人可能太年轻了，，，，甚至不知道那是什么。。。。。。但它在其时可是风行一时。。。。。。我们坐进车里，，，，在帕洛阿尔托的高速公路、街道上行驶了约莫 30 分钟。。。。。。那次驾驶体验很是完善，，，，全程零人工干预。。。。。。那是在 2013 年，，，，距今已经 12 年了。。。。。。这让我相当震惊，，，，由于在履历了那次完善的驾驶和演示后，，，，我感受自动驾驶的时代即将到来，，，，由于它看起来已经实现了，，，，简直难以想象。。。。。。 但 12 年后的今天，，，，我们仍然在研究自主性，，，，仍在开发驾驶智能体。。。。。。纵然是现在，，，，我们现实上也还没有完全解决这个问题。。。。。。你可能会看到 Waymo 的汽车在路上行驶，，，，看起来是无人驾驶的，，，，但你要知道，，，，其中仍有大宗的远程操作和「人类在环」的介入。。。。。。以是我们甚至还没有宣布乐成，，，，但我以为它最终肯定会乐成，，，，只是破费了很长的时间。。。。。。 以是，，，，我以为这类软件真的很是棘手，，，，就像自动驾驶一样棘手。。。。。。因此，，，，当我看到诸如「2025 年是智能体元年」之类的说法时，，，，我会感应很是担心，，，，我更倾向于以为，，，，这应该是「智能体的十年」，，，，这需要相当长的时间。。。。。。我们需要「humans in the loop」，，，，我们必需审慎行事。。。。。。这事实是软件，，，，我们必需严肃看待。。。。。。 我经常想到的另一个类比是钢铁侠战衣。。。。。。我一直很喜欢《钢铁侠》，，，，我以为它在许多方面都很是精准地预见了手艺将怎样生长。。。。。。我最喜欢钢铁侠战衣的一点是，，，，它既是一种增强工具——托尼·斯塔克可以驾驭它，，，，同时它也是一个智能体。。。。。。在一些影戏里，，，，钢铁侠战衣体现出高度的自主性，，，，可以自己航行，，，，找到托尼等等。。。。。。这就是所谓的「自主性滑块」——我们可以构建增强工具，，，，也可以构建智能体，，，，而我们希望两者兼得。。。。。。 但在现阶段，，，，我想说，，，，思量到我们使用的是尚不可靠的 LLM，，，，我们更应该构建的是「钢铁侠战衣」式的增强工具，，，，而不是「钢铁侠机械人」那样的自主智能体。。。。。。我们应该少做一些华而不实的自主智能体演示，，，，多开发一些部分自主性的产品。。。。。。这些产品拥有定制化的功效和用户界面/用户体验设计。。。。。。我们这样做是为了让用户的「天生-验证」循环变得非？？？？？，，，，但我们也不可忽视这样一个事实，，，，即这些事情原则上是有可能被自动化的。。。。。。你的产品中应该有一个「自主性滑块」，，，，并且你应该思索怎样推动这个滑块，，，，让你的产品随着时间的推移变得越发自主。。。。。。我以为这类产品中保存着大宗的时机。。。。。。 现在我想转换一下话题，，，，谈谈另一个我以为很是奇异的维度。。。。。。不但泛起了一种支持软件自主化的新型编程语言，，，，并且正如我所提到的，，，，它是用英语来编程的，，，，这是一种自然接口，，，，于是突然之间，，，，似乎人人都是程序员了，，，，由于每小我私家都会说像英语这样的自然语言。。。。。。 这让我感应远景极其灼烁，，，，也很是有趣，，，，我以为这是史无前例的。。。。。。已往，，，，你需要花五到十年的时间学习某样工具，，，，才华在软件领域有所作为。。。。。。现在情形已经差别了。。。。。。我不知道是否有人恰巧听说过「气氛编程（Vibecoding）」。。。。。。 就是这条推文引入了这个看法，，，，但我听说它现在已经成了一个主要的网络迷因（meme）。。。。。。关于这件事有个小故事：我使用推特（Twitter）或许有 15 年了，，，，但我仍然搞不清晰哪条推文会病毒式撒播，，，，哪条会无人问津。。。。。。 我其时以为这条会是后者，，，，只是一些灵光一现的想法。。。。。。但它最终酿成了一个征象级的迷因，，，，我真的无法展望。。。。。。但我想，，，，这或许是它引起了各人的共识，，，，为一种人人都能感受到但无法言说的工具命了名。。。。。。以是现在它都有维基百科页面了，，，，似乎成了一项重大孝顺之类的。。。。。。 我发明这个视频很是暖心，，，，我太喜欢这个视频了。。。。。。你怎么能看着这样的视频而对未来感应气馁呢？？？？？未来是优美的。。。。。。我以为这最终会成为通向软件开发的「入门砖」。。。。。。我对下一代的未来并不气馁。。。。。。是的，，，，我真的很爱这个视频。。。。。。 我也实验了一下「气氛编程」（vibecoding），，，，由于它真的太有趣了。。。。。。当你想要构建一个看起来完全不保存的、超等定制化的工具时，，，，「气氛编程」就很是棒，，，，你只是想即兴施展一下，，，，可能由于那天是周六或者别的什么缘故原由。。。。。。以是我做了这个 iOS 应用，，，，我着实并不会用 Swift 编程，，，，但我能构建出一个超等基础的应用，，，，这让我自己都感应震惊。。。。。。 我就不诠释详细内容了，，，，虽然有点傻，，，，但这基本上就是一天的事情量，，，，当天晚上它就在我的手机上运行了，，，，我其时就以为，，，，「哇，，，，这太神奇了。。。。。。」我完全不需要为了入门而去读好几天的 Swift 文档。。。。。。 我还「气氛编程」了另一个叫 Menu Gen 的应用。。。。。。这个是上线的，，，，你可以在 menuGen.app 上试试。。。。。。我遇到的问题是，，，，每次去餐厅，，，，我看完菜单也不知道那些菜究竟是什么，，，，我需要图片。。。。。。但并没有这样的工具，，，，以是我想，，，，「嘿，，，，我要用『气氛编程』做一个。。。。。。」 它看起来是这样的：你会见谁人网站，，，，拍一张菜单的照片，，，，然后它就会为菜单天生图片。。。。。。每个注册用户都能获得 5 美元的免费额度，，，，因此，，，，这成了我生涯中的一个主要本钱中心。。。。。。以是这对我来说是个负收入应用，，，，我在 Menu Gen 上已经亏了一大笔钱。。。。。。 好吧，，，，但 Menu Gen 对我来说最巧妙的一点是，，，，「气氛编程」——也就是写代码的部分——反而是整个项目里最简朴的部分。。。。。。绝大大都事情量都爆发在我试图把它做成一个「真实」产品的时间，，，，也就是当你需要加入用户认证、支付、域名和 Vercel 安排时。。。。。。 这部分真的很是难题。。。。。。并且这些跟写代码都没关系，，，，所有这些「开发运维」（Devops）的事情都是我在浏览器里手动点击完成的。。。。。。这整个历程极其死板，，，，特殊花了我一个星期。。。。。。以是，，，，一件真正让我着迷的事情是，，，，我只用了几个小时就在我的条记本上做出了 Menu Gen 的焦点演示版本，，，，但之后却花了我整整一个星期，，，，仅仅由于我想把它酿成一个正式上线的产品。。。。。。缘故原由就是，，，，这个历程着实太烦人了。。。。。。 举个例子，，，，当你想给你的网页添加谷歌登录功效时，，，，我知道这字很小，，，，但你看这个 Clerk 库为了告诉我怎样集成，，，，给了巨量的指令。。。。。。这太猖獗了。。。。。。它告诉我：会见这个 URL，，，，点击这个下拉菜单，，，，选择谁人选项，，，，再到另一个地方点击谁人按钮。。。。。。它就像在指挥我该做什么。。。。。。一台盘算机在告诉我应该执行什么操作。。。。。。那你为什么不自己做呢？？？？？我究竟为什么要干这个？？？？？见鬼了！我必需遵照所有这些指令，，，，这太猖獗了。。。。。。 好的。。。。。。以是归纳综合地说，，，，我以为现在泛起了一类全新的数字信息消耗者和使用者。。。。。。已往只有通过图形界面（GUI）操作的人类，，，，或者通过应用程序接口（API）交互的盘算机。。。。。。而现在，，，，我们有了一个全新的物种——「智能体」（agents）。。。。。。 它们是盘算机，，，，但在某种水平上又很像人类，，，，对吧？？？？？它们就像是互联网上的「人类心智」，，，，需要与888集团软件基础设施举行交互。。。。。。我们能为它们而构建吗？？？？？这是一个全新的课题。。。。。。 举个例子，，，，你可以在你的域名下安排 robots.txt 文件来指示或建议网络爬虫在你网站上的行为方法。。。。。。同样地，，，，你或允许以有一个 llm.txt 文件，，，，它只是一个简朴的 Markdown 文件，，，，用来告诉 LLM 这个域名是关于什么的。。。。。。 关于 LLM 来说，，，，这会很是易于读。。。。。；；；；相反，，，，若是让它去获取你网页的 HTML 并实验剖析，，，，则很是容易蜕化，，，，也很难题，，，，它会搞砸，，，，基础行欠亨。。。。。。以是我们可以直接与 LLM 对话。。。。。。许多文档现在都是为人类编写的，，，，以是你会看到列表、粗体和图片，，，，这些内容 LLM 无法直接会见。。。。。。 我看到现在一些效劳正在将他们的文档大宗地转为专门面向 LLM。。。。。。例如，，，，Vercel 和 Stripe 是这方面的先行者，，，，但我也看到了其他一些公司已经最先这样做了。。。。。。他们用 Markdown 名堂来提供文档。。。。。。Markdown 关于 LLM 来说超等容易明确，，，，这很棒。。。。。。 再举一个我自己的简朴例子，，，，可能有些人知道 3Blue1Brown，，，，他制作了很是细腻的数学动画视频。。。。。。是的，，，，我超爱他写的谁人叫 Manim 的库，，，，我想用它来做我自己的动画。。。。。。 网上有大宗关于怎样使用 Manim 的文档。。。。。。我着实不想读完它们，，，，以是我把整个文档复制粘贴给了 LLM，，，，形貌了我想要的效果，，，，然后它直接就搞定了。。。。。。LLM 就像是为我「气氛编程」出了我想要的动画。。。。。。我其时就以为，，，，「哇，，，，这太神奇了！」 以是，，，，若是我们能让文档对 LLM 来说是清晰易读的，，，，这将解锁重大的应用潜力。。。。。。我以为这很是了不起，，，，并且应该获得更普遍的推广。。。。。。 我想指出的另一点是，，，，很遗憾，，，，你不可只是简朴地把你的文档转换成 Markdown 名堂。。。。。。那只是最简朴的部分。。。。。。我们现实上必需改变文档的内容，，，，由于任何时间当你的文档里泛起「点击」（click）这个词，，，，这就欠好了，，，，LLM 现在无法原生执行这个行动。。。。。。 以是，，，，Vercel 正在做的一件事就是，，，，把每一个「点击」都替换成一个等效的 curl 下令，，，，这样你的 LLM 智能体就可以代表你来执行。。。。。。我以为这一点很是有趣。。。。。。虽然，，，，尚有 Anthropic 公司提出的「模子上下文协议」（Model Context Protocol，，，，MCP），，，，这也是另一种直接与作为新型数字信息消耗者的「智能体」对话的方法。。。。。。因此，，，，我非？？？？？春谜庑┫敕。。。。。。 我很是喜欢的另一点是，，，，现在泛起了许多小工具，，，，它们能资助我们以对 LLM 很是友好的名堂来吸收数据。。。。。。举个例子，，，，当我想用我的一个 Github 代码库，，，，好比我的 nanoGPT 库时，，，，我无法直接把它输入给 LLM 然后提问，，，，由于我们现在看到的，，，，是 Github 上为人类设计的交互界面。。。。。。 以是，，，，你只需要把 URL 从 Github 改成 get ingest，，，，它就会自动把所有文件拼接成一个重大的文本文件，，，，并建设出目录结构等等。。。。。。这样处置惩罚好的内容就可以直接复制粘贴到你最喜欢的 LLM 里使用了。。。。。。 Deep Wiki 是一个更能说明问题的例子。。。。。。它处置惩罚的不但仅是这些文件的原始内容。。。。。。这是来自 Devin 的一个功效，，，，他们让 Devin 对 Github 代码库举行剖析，，，，然后 Devin 会为你的代码库构建一整套文档页面。。。。。。你可以想象，，，，这样的内容关于复制粘贴到 LLM 中会更有资助。。。。。。以是我很喜欢所有这些小工具，，，，它们只需要你改一下 URL，，，，就能让某些内容可以被 LLM 所会见。。。。。。这一切都很是好。。。。。。是的，，，，我以为未来应该有更多这样的工具。。。。。。 但我仍然以为，，，，我们自动向 LLM「妥协」或「折中」是很是值得的，，，，让它们能更容易地会见所有这些信息。。。。。。由于我以为，，，，现在让 LLM 这样做的本钱仍然相当高昂，，，，并且难度也大得多。。。。。。因此，，，，我确实以为，，，，关于大宗的软件，，，，会有一个长尾效应，，，，它们不会自动去适配（LLM），，，，由于这些代码库或数字基础设施并非「实时活跃」的。。。。。。以是我们将需要这些（数据提。。。。。。┕ぞ。。。。。。 但我以为对其他人来说，，，，在某其中心点与模子告竣某种妥协是很是值得的。。。。。。以是，，，，若是这样说得通的话，，，，我对（模子自动顺应和我们自动适配）两个偏向都坚持乐观。。。。。。 总而言之，，，，现在是投身这个行业的绝佳时机。。。。。。我们需要重写大宗代码，，，，这些代码将由专业人士和气氛编程者（byte coders）编写。。。。。。这些 LLM 就像是基础设施，，，，有点像芯片制造厂（fabs），，，，但它们尤其像是操作系统，，，，不过还处于很是早期的阶段，，，，就像是 1960 年月的操作系统。。。。。。我以为许多类比都是相通的。。。。。。这些模子就像是会出错的、你知道的，，，，犹如「灵魂」般的保存，，，，我们必需学会怎样与它们共事。。。。。。为了做到这一点，，，，我们需要响应地调解888集团基础设施。。。。。。 因此，，，，当你构建这些 LLM 应用时，，，，我适才形貌了一些与这些模子高效协作的要领，，，，以及一些能实现这种协作的工具，，，，尚有怎样快速地迭代这个循环，，，，并最终创立出「部分自主」的产品。。。。。。然后，，，，是的，，，，我们还需要为「智能体」（agents）更直接地编写大宗代码。。。。。。 但无论怎样，，，，回到钢铁侠战衣的谁人比喻，，，，我以为在未来约莫十年里，，，，我们将见证（手艺的）指针从左向右移动。。。。。。我对它未来的形态充满了极大的兴趣，，，，也很期待看到它最终的样貌。。。。。。我迫缺乏待地想与各人一起创立未来，，，，谢谢。。。。。。