智东西（公众号：zhidxcom）编译 | 尹明顺 吴浪娜剪辑 | 漠影
智东西10月10日音信，当地时候10月7日，有名播客主抓东说念主Lex Fridman和Cursor团队4名创举成员Michael Truell、Sualeh Asif、Arvid Lunnemark和Aman Sanger进行了一场长达两个半小时的对话。
Cursor是一个基于VS Code的代码剪辑器，它为AI援救编程添加了许多遒劲的功能，它引起了编程和AI社区的关注和怡悦，风头正盛。那么Cursor算作一个初创团队，如何能够与科技巨头微软的Github Copilot一战呢？
在播客中，几东说念主深度磋议了Cursor团队目下的发展以及翌日的探索办法，还平淡批驳了编程的翌日，以及东说念主类与AI在设计和构建复杂而遒劲的系统方面达成配合的各式可能。
团队成员在博客中详实共享了Cursor如何贯通你的代码库并以此为依据瞻望你下一步要作念什么，然后以惊东说念主的速率生成代码，从而有用晋升了编程效率。
他们还先容了Cursor更多功能，不仅擅长自动补全代码，它还引入了影子使命区援救编写代码，并能通过肤浅的刻画来大喊AI编写更复杂的代码，完成更多的任务。
此外，团队成员还对AI编程的时刻要领进行了深入分析，并对东说念主与AI编程之间的伦理问题张开探讨，提到了但愿将OpenAI o1模子集成的愿景。
值得一提的是，团队成员认为，快速就是有趣（Fast is Fun）。诱骗东说念主们在电脑上创造新内容的原因之一就是惊东说念主的迭代速率，而在其他领域，你可能会受到资源或才能的限定，但在编程的寰宇，只消有你和计较机，你就能相称快速地构建出相称酷的东西。
创举团队中，Aman Sanger担任Cursor的CEO，是一位工程师和企业家，此前他曾在Instagram和Facebook担任率领职位。Arvid Lunnemark是公司的CTO，是一位工程师，曾在Spotify和Google使命。Michael Truell担任设计垄断，Sualeh Asif担任公司COO。
▲播客现场先容Cursor团队成员（起头：YouTube）
以下是对该播客内容的完整编译（为提高可读性，智东西诊疗了部分问答的方法，并在不抵牾原意的前提下进行了一定的增删修改）。
一、类似增强版翰墨处理器，代码剪辑器可处理更多任务Lex：代码剪辑器有什么用？
Michael：代码剪辑器主如若构建软件的方位，恒久以来，而在今天或很长一段时候里，代码剪辑器是指对肃穆编程语言进行文本剪辑的方位。对于非表率员来说，可以将代码剪辑器贯通为表率员专用的增强版翰墨处理器。之是以说它是增强版，是因为代码有许多结构。因此，这个“翰墨处理器”即代码剪辑器，试验上可以为你作念许多事情，而这些是传统的翰墨处理器在文本剪辑方面作念不到的。
这包括给代码中不同的元素提供视觉区分，以便快速浏览；可以在代码库中导航，径直跳转到用户正在使用的内容的界说，就像在互联网上使用超造就；还有进行过失检验以拿获基本过失等。传统上，这就是代码剪辑器的界说。我认为在翌日十年内，跟着构建软件的方式有所变化，代码剪辑器的界说也将发生很大变化。
Lex：我认为代码剪辑器也应该很有趣。
Arvid：是的，这相称蹙迫。这试验上是咱们决定构建什么的一个被低估的方面。咱们构建的许多东西，通过试用它们，再进行实验，然后因为它们不有趣而把它们扔掉。是以，有趣的很大一部分在于许多时候要快。快速就是有趣。
Michael：基本上，我认为诱骗许多东说念主在电脑上构建东西的原因之一是这种惊东说念主的迭代速率，而在其他领域，你可能会受到资源或才能的限定……甚而将一大群东说念主聚在沿路编程亦然一件令东说念主讴颂的事情，唯独你和计较机，你才能可以相称快速地构建出相称酷的东西。
二、从Copilot的粉丝到开拓Cursor，Cursor发源的两个蹙迫时刻Lex：对于不知说念的东说念主来说，Cursor是一个超等酷的新剪辑器，它是VS Code的一个分支。听听你们对我方剪辑器之旅的说明会很有趣。我想你们扫数东说念主都是VS Code和Copilot的诚恳粉丝。你们是如何战斗到VS Code的，以及这如何引导你们走向Cursor？
Aman：咱们最初都是纯Vim用户。莫得Neovim，唯独纯Vim和末端。至少对我我方来说，当Copilot出来的时候，大要是2021年，我确凿很想试试它。是以我进入了VS Code，这是唯一可以使用Copilot的代码剪辑器，尽管我确凿很心爱使用Vim，但VS Code和Copilot的体验足以劝服我发生蜕变。是以，这基本上成了默许成就，直到咱们脱手开拓Cursor。
Lex：也许应该解释一下Copilot的功能。它是一个相称可以的自动补全器具。当你脱手写东西时，它会建议一到三行代码来完成它，这是一种有趣的体验。你知说念当你有亲密的一又友时，你的一又友会帮你补全你的话一样。当它作念得很好时，会有一种亲密的嗅觉。可能“亲密”这个词不太准确，但有一种很酷的嗅觉，就像“哇，它懂我”。关联词当它不懂你时，就会有一种不欢腾的嗅觉。是以会有这种摩擦。但我想说，对于许多东说念主来说，那种“它懂我”的嗅觉压倒了“它不懂我”的嗅觉。
Arvid：我认为GitHub Copilot被低估的一丝是，即使它出错了也有点烦东说念主，但并莫得那么倒霉，因为你只需再输入一个字符，也许它就能贯通你了，或者你再输入一个字符，它就能贯通你了。是以即使它错了，也不会那么倒霉。
Sualeh：你可以进行迭代和诞生。我的道理是，对我来说，Copilot的另一个被低估的部分是，它是第一个真实的AI居品，第一个面向消费者的语言模子居品。
Lex：是以Copilot有点像语言模子的第一个杀手级应用。
Michael：是的，它的beta版在2021年发布。
Lex：那么Cursor的发源故事是什么样的？
Michael：大要在2020年，OpenAI发布了scaling laws论文，这是一个要津时刻，这个领域似乎取得了潜入可瞻望的进展，即使咱们莫得任何新想法，看起来只消有更多的计较才能和更多的数据，就可以让这些模子变得更好。
Lex：趁便说一下，咱们可能需要花三到四个小时来磋议scaling laws这个话题。但简而言之，这是一系列论文中的一篇，这些论文提议了一系列不雅点，认为在机器学习领域，模子的大小和数据的大小，越大越好。
Michael：是以在那段时候，咱们中的一些东说念主有许多对于这会是什么花式的见解性磋议。对于扫数这些不同学问领域的使命者来说，这项时刻的发展将如何让他们变得更好？然后我认为有几个时刻，那篇论文中瞻望的表面进展脱手变得相称具体，脱手合计你可以在AI领域作念试验上有用的使命，而不需要去攻读博士。嗅觉当今可以构建一整套真实有用的系统。我认为第一个时刻是玩转Copilot的早期测试版，那种嗅觉很棒，很神奇。
我认为第二个蹙迫时刻是提前赢得了GPT-4的早期探望权限。大要在2022年底，咱们脱手修改这个模子，才能的升级嗅觉相称巨大。在此之前，咱们一直在研究一些不同的技俩。因为Copilot，因为scaling laws，因为咱们之前对这项时刻的风趣，咱们一直在修改表率员使用的器具，但这些都口舌常具体的器具。是以咱们正在为必须在Jupyter Notebook上使命的金融专科东说念主士构建器具，或者尝试使用这些模子进行静态分析。
而GPT-4的升级让咱们嗅觉这确乎证实了咱们之前瞻望的表面进展。嗅觉就像在阿谁时候点你可以立即构建许多东西。而且，如果咱们保抓一致，这确凿嗅觉不单是是一个点贬责决策，这将触及通盘编程领域，扫数编程都将通过这些模子进行，而且嗅觉这需要一种不同类型的编程环境，一种不同的编程方式，是以咱们脱手构建那种更大的愿景。
Sualeh：有一件事我印象相称深刻，我的室友是IMO金牌得主，好意思国有一个叫Putnam的比赛，这有点像是大学生的IMO，亦然一个数学竞赛，它相称精彩。我牢记Shengtong和Aman在2022年6月附近打赌，赌能否在2024年6月或7月的IMO中赢得金牌。
Lex：IMO是国外数学奥林匹克竞赛。
Sualeh：Arvid和我也参加了，尽管我在某种进度上相信进步，但我认为想拿下IMO金牌，Aman是在胡想乱想。但憨厚说我整个错了，但这可能是团队中最有预知之明的赌注。
Aman：我潜入地牢记我和Michael有一次对话，在那之前我还莫得相称深入和批判性地想考过scaling laws，他提议了一个问题，为什么scaling laws就是你需要的一切，或者为什么scaling laws不会带来巨大的进步？我想我阅历了悼念的五个阶段，终末终于接管了。
我想从那以后我一直对进步充满但愿和乐不雅。我想要补充的一丝是，这也取决于你将在哪些领域看到进步。数学是一个伟大的领域，尤其是款式化定理评释，因为你可以得到一个很好的信号来试验考据事物是否正确。是以这意味着像强化学习这样的东西可以使命得相称好，我认为你可能会领有在数学上相称超东说念主的系统，但从时刻上讲仍然莫得AGI。
三、Cursor瞻望你的下一步，或将改变构建软件的方式Lex：好的，那么咱们谈谈Cursor。
Michael：对咱们来说，决定作念一个剪辑器似乎是了然于目的，至少对于咱们想要作念的事情和完结的有蓄意来说是这样的，因为当咱们脱手开拓剪辑器时，想法是这些模子会变得更好，它们的才能会提高，这将透顶改变你构建软件的方式，这不仅会让你赢得巨大的坐蓐力晋升，而且会带来根人道的改变，构建软件的方式也会发生很大的变化。是以，如果你是现有编程环境的一个插件，那么你对代码剪辑器的限定会相称有限，咱们不想被这些限定所不断。咱们但愿能够构建最有用的东西。
Lex：Cursor与Copilot在某种进度上是竞争敌手，你们如何取胜？靠速率和功能质料吗？
Aman：是的，我想这是一个格外有趣，也许相称特有的领域，如果你望望以前的时刻海浪，也许唯唯一种主要的事情发生，它解锁了一波新的公司，但每年，每一个模子才能的进步，你就解锁了一波新的功能，尤其是编程中可能完结的事情。
是以我认为在AI编程中，即使只是最初几个月，更无谓说一年了，也会让你的居品变得有用得多。我认为一年后的Cursor将需要让今天的Cursor看起来逾期。我认为微软也曾作念了许多很棒的事情，但我认为他们不像一个初创公司那样有很大的空间真实接续创新和推进这方面的发展。
Sualeh：我不知说念我是否从功能的角度来有计划它，如故从表率员的才能的角度来有计划它。跟着新的o1模子发布，我相信会有更多不同类型的模子，比如更长高下文的，也许更快，扫数这些豪恣的想法你都可以去尝试，但愿其中10%的豪恣想法能够变成某种很酷且有用的东西，咱们但愿东说念主们能更快地领有它。换句话说，一个被低估的事实是，咱们正在为我方创造它。
当咱们脱手构建Cursor时，你确凿会感到衰颓，你可以看到模子变得更好，但Copilot的体验莫得改变。就像，这些家伙天花板越来越高，为什么他们不创造新东西？他们应该创造新东西。那些Alpha功能在那处？但莫得那些功能。如果作念了新东西，我确信它是一门好贸易。我敢笃信这是一项伟大的作事，我是那种确凿想尝试和使用新东西的东说念主，但很长一段时候都莫得作念出新东西。
Lex：当你比较Cursor和Copilot时，Copilot很快就脱手因为某种原因而给东说念主一种逾期了的嗅觉。
Arvid：是的，我认为对咱们有匡助的一件事是，咱们把扫数事情都作念成了，咱们在开拓用户体验和与模子交互的方式的同期，也在开拓如何让模子给出更好的谜底。是以你如何构建教唆，或者你如何找到高下文，对于Cursor Tab来说，你如何练习模子？是以我认为这有助于咱们让并吞批东说念主来负责通盘体验。
Sualeh：是的，就像制作UI的东说念主和练习模子的东说念主坐在沿路，相距18英尺远，甚而不时是并吞个东说念主。你可以创造出一些如果不交谈、作假验就不可能完结的东西。
Lex：你们用Cursor来写Cursor？
Arvid：天然。
Lex：咱们聊聊无所弗成的Tab，号称加强版自动补全的功能。Tab是若何使命的？它是什么？
Michael：概述来说，我认为Cursor目下在两个方面弘扬可以。天然，它还有其他功能，但这两项功能对表率员来说相称有匡助。一是它就像在你死后不雅察，是一个速率很快、可以抢在你前边输入并瞻望你下一步要作念什么的共事。这亦然一个好的自动补全功能的初志，瞻望你下一步要作念什么，但咱们可以更进一步，不仅瞻望Cursor背面的字符，还能瞻望你要进行的下一个全体变嫌、下一个互异、接下来要跳转的位置。
第二个是，能匡助你有时最初于AI，告诉它该作念什么，完结从指示到代码的调遣。为了作念好这两件事，咱们在提高剪辑体验高下了许多功夫，让它们既妥当东说念主体工程学，又实足智能和快速。
四、加强版自动补全功能Cursor Tab，排斥剪辑器中的低熵操作Sualeh：咱们真实想要完结的是，让模子能够为咱们剪辑代码。这是咱们的愿望，在领有能够剪辑代码的优质模子之前，咱们进行了屡次尝试。有了优质模子后，为了让使用体验愈加开通，咱们付出了许多奋勉来加速推理速率，并也曾脱手整合。
Michael刚才也提到了这种跳转到不同位置的才能，我认为这种跳转源于一种嗅觉，即一朝你接管了剪辑，下一步要去那处应该相称昭着。比如，我作念了这个变嫌，模子应该径直知说念下一步要跳转到第18行。如果你是WIM用户，你可能会按18JJ之类的快捷键，但为什么我要这样作念呢？模子应该径直知说念。
是以，你只需要按Tab键，它就会跳到第18行，然后炫夸下一个剪辑，你再按Tab键，你只需一直按Tab键，就能一直这样操作下去。是以里面竞争就变成了，咱们能让东说念主按些许次Tab键？一朝你有了这个想法，更抽象地说，要有计划的是如何使剪辑达到零熵情状。
也就是说，一朝你抒发了意图况兼剪辑，莫得新的信息片断来完成你的想法，但你仍然需要输入一些字符来让计较机贯通你真实的想法，那么模子未必应该“读懂”你的心想，扫数零熵位都应该只是被Tab键排斥，这就是比较抽象的说法。
Aman：一个有趣的征象是，如果你看不同领域的language model loss，我相信每字节的比特数，这是一种对代码字符模范化耗损的掂量，比语言低，这意味着代码中有许多token口舌常可瞻望的，许多字符也口舌常可瞻望的。而且，当你不单是是试图自动补全代码，而是瞻望用户在剪辑现有代码时的下一步操作时，这种可瞻望性会被进一步放大。因此，Cursor Tab的有蓄意是排斥剪辑器中扫数低熵操作。一朝意图得到有用详情，就让咱们径直跳转到翌日的某个时候点，上前跳过。
Lex：那么，Tab在近期内应该能够作念什么？
Aman：我可以讲讲让这些功能施展作用的一些细节。它们的蔓延极低，是以你需要在这个任务上练习袖珍模子。额外是，它们相称需要预填充token。这意味着它们有相称长的教唆，能看到许多代码，但试验上生成的token并未几。因此，使用MOE模子是最合适的。这是咱们取得的一项冲破，极地面提高了模子在长高下文中的性能。另一个冲破是咱们构建的投契解码的变体，称为投契剪辑。我认为，这两点是使其质料高、速率快的蹙迫身分。
Lex：那么缓存起作用了吗？
Aman：缓存起到了巨大的作用。因为你要处理这样多输入token，如果你在给定行中输入的每个按键都要针对扫数传入的token重新运行模子，那么一是会大大裁减蔓延，二是会让GPU负载过高。因此，你需要设计用于模子的试验教唆，使其具有缓存意志。然后，你需要跨苦求重用KV缓存，以减少计较量。
Sualeh：但愿能跳转到不同的文献。是以，如果你在一个文献中进行了剪辑，可能需要转到另一个文献来完成你的想法，它也应该转到第二个文献。
Arvid：完整的泛化是下一走路动瞻望。有时你需要在末端中运行大喊，它应该能够凭证你编写的代码来建议大喊，或者有时它会给出建议，但你很难判断它是否正确，因为你需要更多信息来学习。你需要知说念类型才能考据其是否正确。是以它未必应该先带你到某个界说的方位，然后再带你记忆，这样你就有了接管下一个补全所需的扫数必要学问。
Michael：编程是一门奇特的学科，有时你接下来五分钟要作念什么，试验上是可以凭证你最近所作念的事情瞻望出来的。那么，咱们能否创造一个寰宇，让这接下来的五分钟要么在你甘休的情况下自动完成，要么在你看到下一步要作念什么并阐发无误后，通过轻触Tab键就能快速完结。
五、加多炫夸框教唆代码互异，围绕审查者体验作念设计Lex：Cursor有一个相称酷且引东说念主详实的功能，那就是通盘diff界面情况。是以，模子用红色和绿色炫夸咱们将如何修改代码，然后可以在聊天窗口中应用它，它会向你炫夸diff，你可以接管diff。那么，你能讲讲这方面的发展办法吗？
Sualeh：咱们可能会有四五种不同的diff。咱们为自动补全功能优化了diff，因此它具有与审查大块代码时不同的diff接口。然后，咱们正在尝试优化另一个diff功能，以适合处理多个不同文献的情况。从高级次来看，互异在于，当你进行自动补全时，读取速率应该相称快。试验上，在扫数情况下它的读取速率都应该相称快，但在自动补全功能中，你的留神力会鸠合在一个区域，东说念主类无法同期关注太多不同的方位。
在界面方面，咱们有现时框，如果你试图在某个方位删除代码并尝试添加其他代码，它会尝试在侧面炫夸一个框。
咱们尝试了三四种不同的方法来完结这个功能。最初的方法是在附近炫夸一个带有蓝色删除线的框。它以前会以Google Docs的格调炫夸要删除的代码，你会看到一条线穿过，然后看到新代码，这相称分散留神力。然后咱们尝试了许多不同的方法……有删除、红色高亮等。
之后的迭代版块有点有趣，你会按住Mac上的option键。是以它会高亮炫夸一段代码，以炫夸AI有建议给你。在这个例子中，输入和值都会变成蓝色，蓝色是用来高亮炫夸AI对你有一个建议。它不会径直炫夸建议的内容，而只是教唆你AI有一个建议。如果你确凿想看到它，就按住option键，然后你会看到新的建议，缩小option键后，你又会看到原始代码。
Arvid：我个东说念主相称期待在这个领域作念出许多转换。咱们不时把它称为考据问题，这些互异对于小范围修改来说很好用。但如果是大范围修改，或者触及多个文献等情况，审查这些互异就有点贫乏了。是以这里有几个不同的想法。一个想法是，互异中的某些部分很蹙迫，包含了许多信息。而有些部分的信息熵很低，就是近似的内容。
是以，未必可以高亮炫夸蹙迫的部分，而将不那么蹙迫的部分灰度炫夸。或者，你可以有一个模子，它检讨互异并发现，“哦，这里可能有个间隙。”我会用红色波浪线象征出来，并教唆你，“你应该重心审查这部分互异。”我合计这类想法很令东说念主怡悦。
而且，你但愿用一个智能模子来完成这项使命。目下的算法只是普通算法，莫得智能性。算法的设计需要智能，但你并不关注它是对于这个如故阿谁，你只但愿模子能作念到这一丝。
Sualeh：是以我认为一个无边的问题是，跟着这些模子变得越来越智能，它们能够提议的变嫌也会越来越大。而跟着变嫌越来越大，东说念主类需要作念的考据使命也越来越多。这变得越来越……你需要匡助他们。我可不想把扫数的时候都花在代码审查上。
Aman：GitHub试图通过代码审查来贬责这个问题。当你进行代码审查时，你正在审查多个文献中的多个互异。但就像Arvid之前说的，我认为你可以作念得比代码审查更好。代码审查有点倒霉。你花了许多时候去贯通那些平日对你来说很生疏的代码，而且它甚而并弗成真实捕捉到许多间隙。
我认为，使用语言模子可以权贵改善审查体验，举例，使用Arvid之前刻画的那种技巧，即可能指向试验蹙迫的区域。我还认为，如果代码是由这些语言模子生成的，而不是由其他东说念主生成的……代码审查体验是同期为审查者和代码编写者设计的。
在代码编写者是语言模子的情况下，你就不必那么关注他们的体验了，你可以整个围绕审查者来设计通盘体验，让审查者的使命尽可能有趣、平缓、高效。我合计，如果只是纯真地试图让这些东西看起来像代码审查，那就会出现问题。我认为你可以更有创造力，并推进可能性的鸿沟。
Arvid：还有一个想法是，我认为方法很蹙迫。平日，当你审查一个拉取苦求（Pull Request）时，你会看到一个文献列表，况兼从上到下递次审查，但试验上，你可能需要先贯通这个部分，因为这部分在逻辑上是先发生的，然后你再贯通下一部分，而你不但愿我方弄潜入这一丝，你但愿有一个模子来引导你。
我认为，并不是扫数的编程都会变成天然语言。如果我正在和Sualeh结对编程，Sualeh在电脑前和键盘上，有时如果我来主导，我会对Sualeh说，嘿，完结这个功能，这样就行了。但有时，向Sualeh解释我想让他作念什么太辛勤了，是以我会接过键盘，给他展示一下。
我写一部分示例，然后他就明白了，这是最容易的调换方式。是以我认为，对AI来说亦然这样。有时，与AI调换的最肤浅方式就是展示一个示例，然后它就会在其他方位履行这个操作。
或者，有时如果你在作念网站，举例，向AI展示你想要什么最容易的方式不是告诉它要作念什么，而是拖动或绘图东西，也许最终咱们会完结脑机接口之类的，你就可以让它贯通你在想什么。是以我认为天然语言会有弹丸之地。但我笃信地认为，它不会是大多数东说念主大部分时候编程的方式。
▲播客现场（起头：YouTube）
Lex：我在使用这个剪辑器时，确凿感受到了通用AI（AGI）的存在。嗅觉它背后有许多机器学习在起作用。能告诉我一些让它正常使命的机器学习内容吗？
Aman：Cursor真实施展作用的方位在于，咱们通过这组自界说模子与前沿模子沿路练习，这些模子在推理密集型任务中弘扬相称出色。Cursor Tab就是一个很好的例子，你可以将这个模子挑升化，使其甚而比前沿模子还要好。另一个领域是Apply，令东说念主骇怪的是它需要定制模子，但这是必要的，而且在应用方面效果很好。
这些前沿模子在起草代码策划和生成变化的概略草图方面格出门色，但试验上，为练习模子创建互异对于前沿模子来说口舌常困难的。如果你尝试用Sonnet、o1或任何其他前沿模子来作念这件事，它会在一些愚蠢的事情上出错，比如计较行数，尤其是在相称大的文献中。为了贬责这个问题，咱们让模子勾画出这个概略的代码块，标明将发生哪些变化，然后咱们练习一个模子，将该变化应用到文献中。
Lex：咱们应该说，Apply模子会检讨你的代码，并给你一个相称好的新操作建议。而看似对东说念主类来说微不及说念的将两者研究起来的门径，并圮绝易。
Sualeh：与无边贯通相悖，这不是一个详情趣算法。
Aman：是的，你会发现其他方位有Apply的浅拷贝，但大多数情况下它都会失效，因为你合计可以尝试进行一些详情趣匹配，但它至少会有40%的时候失败了，这会导致居品体验相称倒霉。我认为，跟着模子变得越来越智能，这种趋势将接续下去。是以，Apply还能让你作念另一件事，那就是你可以用更少的token来使用最智能的模子。这在生成扫数这些token的蔓延和资本方面都很上流。
是以，你可以给出一个相称概略的草图，然后让你的模子去完结它，因为完结这个相称概略的代码是一个更容易的任务。我认为这种趋势将接续下去，你可以使用越来越智能的模子来进行策划，然后也许可以由不那么智能的模子来处理完结细节。也许你可以使用o1，也许它会有更遒劲的模子，给出更高级别的策划，该策划由sauna递归应用，然后是apply模子。
Sualeh：也许应该谈谈如何让它变快。
Aman：让它变快的一个主要组成部分是投契剪辑。投契剪辑是投契解码的一种变体，也许简要刻画一下投契解码会很有匡助。在投契解码中，你可以利用这样一个事实，大多数情况下，我会加上一个截止，那就是当你在语言模子生成中受到内存限定时，如果你一次处理多个token，这比一次生成一个token要快。
是以咱们作念的是，不是使用投契解码平日所作念的，即使用一个小模子来瞻望这些草稿token，然后你的大模子会进去考据，在代码剪辑中，咱们对现有代码的外不雅有相称强的先验，况兼该先验试验上是整个一样的代码。是以，你可以作念的是，将原始代码的部分反馈回模子，然后模子大多数情况下都会同意，“好吧，我只是要把这段代码原样输出。”
是以，你可以并行处理扫数这些行，只消使用实足多块即可。然后最终你会达到一个不对点，模子当今将瞻望与原始代码不同的文本。它会生成这些token，然后，在实足多的token与原始代码匹配后，咱们会重新脱手以代码块为单元进行瞻望。
这试验上看起来就像是正常剪辑代码的一个更快版块。是以它看起来就像是模子重写扫数代码的一个更快版块。因此，咱们可以使用与diff一样的接口，但它的流式传输速率会快得多。
七、GPT和Claude在编程上哪个更胜一筹？Lex：哪个大语言模子更擅长编程？GPT和Claude，在编程方面，哪个更胜一筹？
Aman：我认为莫得哪个模子能在扫数咱们认为蹙迫的类别中都优于其他模子，这些类别包括速率、剪辑代码的才能、处理无边代码的才能、长文本高下文，以尽头他几个身分和编程才能。我当今会说总体上最好的是Sonnet。我认为这是大家的共鸣。
o1也相称有趣，它相称擅长推理。是以，如果你给它一些很难的编程口试格调的问题或者率领代码问题，它能作念得很好，但它似乎不如Sonnet那样能贯通你的大问候图。如果你望望其他许多前沿模子，我有一个疑虑，那就是嗅觉它们不一定好……我不是说它们在基准测试上练习，但它们在基准测试中的弘扬确乎相称好，相对于扫数中间的东西。
是以如果你尝试扫数这些基准测试和它们评估的散布中的东西，它们会作念得很好。然则，当你把它们稍稍推离这个范围时，Sonnet是我认为在保抓一样才能方面作念得最好的。你在基准测试中领有的才能与尝试指示它履行任何与编程干系的事情时领有的才能一样。
Sualeh：趁便说一下，这是一个相称困难且至关蹙迫的细节，基准测试与真实的编程之间的区别在于，真实的编程并不是口试格调的编程。东说念主类有时会说半吊子的英语，有时你会说，“哦，按照我之前作念的那样作念。”有时你会说，“添加这个东西，然后为我作念这个其他事情，然后制作这个UI元素。”但许多事情都是依赖于高下文的。你确凿想要贯通东说念主类，然后按照东说念主类的意愿去作念，而不是……也许抽象地说，口试问题口舌常明确具体的。它们在很猛进度上依赖于明确说明，而东说念主类的东西则不那么明确。
Aman：对于Claude，我听到过一个有趣的不雅点，我认为AWS有不同的芯片，我怀疑它们与Nvidia GPU的数值略有不同，有东说念主推测Claude性能下落可能与在AWS Bedrock上使用的量化版块与Anthropics GPU上运行的版块不同相关。
八、Preempt系统可自动完结料想效果Lex：在这一切中，一个好的教唆（Prompt）饰演着什么变装？
Arvid：我认为这取决于你使用的是哪个模子，它们都有微弱的隔离，对不同的教唆反应也不同。但我认为，最初的GPT-4和昨年的某些模子，它们对教唆格外明锐，而且它们的高下文窗口也很小。是以咱们有许多与代码库干系的信息，这些信息可能在教唆中会很有用。
你有文档、你添加的文献、你有对话历史，然后问题就来了，你如何决定试验上要把什么放进教唆里，额外是当你的空间有限时？对至今天的模子，即使你有长高下文，填满通盘高下文窗口就意味着它会变慢。这意味着有时模子试验上会感到困惑，而且有些模子比其他模子更容易困惑。
咱们里面有一个系统叫作念Preempt，它在这方面对咱们有一些匡助。我认为它是为咱们有8000个token高下文窗口的期间建立的，它有点类似于当你在制作一个网站时。你但愿它在手机上能正常使命，你但愿它在桌面上也能正常使命，而你有这些动态信息，但你莫得固定的布局。
举例，如果你设计一册印刷杂志，你知说念你可以把东西放在那处，然则当你有一个网站或者一个教唆时，你有这些输入，然后你需要口头化它们，以便它们能老是正常使命，即使输入相称大，你可能必须削减一些内容。是以咱们的想法是，好吧，让咱们从中赢得一些启发。
设计网站的最好方式是什么？咱们相称心爱的是React以及它的声明式方法，你在JavaScript中使用JSX，然后径直声明：这就是我想要的，我认为这个部分比其他部分具有更高的优先级或更高的Z轴方法。在网页设计中，你有一个渲染引擎，就像Chrome一样，在Cursor中它是一个preempt渲染器，它会将扫数内容都放在页面上。你只需说明你想要的效果，渲染器会自动帮你完结。咱们发现这钟方法相称有匡助，而且它的作用跟着时候的推移也曾发生了变化。
最初它是为了适合较小的高下文窗口，而当今它在拆分进入教唆词的数据和试验生成方面施展了很大作用。因此，它更容易调试，因为你可以修改教唆词，然后在旧的教唆上进行测试，径直检讨你的修改是否确凿晋升了通盘评估集的弘扬。
Lex：是以你们是确凿用JSX来教唆吗？
Arvid：是的。咱们有一个文献组件，它经受光标。平日在你的文献中有一滑光标所在的位置，那可能是最蹙迫的一滑，因为那是你正在检讨的一滑。然后你可以给出优先级。而且，如果你有许多来自通盘代码库的代码块，你可以使用检索和镶嵌等重新排序分数来为这些组件添加优先级。
Lex：那么当东说念主类发问时，也应该尝试使用那样的东西吗？这是否意味着问题会变得松散和紊乱，如故这样的系统应该饱读舞东说念主们更潜入地抒发？
Arvid：我认为咱们的有蓄意是，你应该只作念对你来说最天然的事情，然后咱们的使命就是弄潜入如何试验检索到相对蹙迫的事情，以便你的想考是有道理的。
Lex：模子遴荐回复与一般回复有多难？这很难，如何处理省略情趣。我是否遴荐商议更多信息以减少歧义？
Sualeh：咱们最近为Cursor添加了一个加入文献的功能。当你在剪辑代码或输入内容时，模子会尝试瞻望你正在作念什么，如果模子发现有省略情的方位，它会揣度你可能在编写某种API。然后，模子会检讨你的历史记载，推测哪些文献与现时的剪辑内容干系。
这里有一个时刻上的难题，就是如安在扫数历史记载中找到干系的信息，判断在现时的教唆词下哪些文献最蹙迫。诚然这个功能还处于练习阶段，但相信咱们会慢慢完善它，但咱们想展示出这个想法：你是否想添加这个文献、阿谁文献，以便模子帮你剪辑？
也许你在编写一个API，你也应该需要剪辑使用这个API的客户端和管事器代码，那么API发生变化时，客户端和管事器代码也需要相应更新。
Cursor可以作念的是，当你在编写教唆或代码时，在你按下回车之前，模子可以帮你找到这些可能需要沿路修改的部分。这样作念的刚正是，可以提前贬责一些省略情趣，确保扫数干系的代码都被正确更新，而不需要手动去查找和同步这些改换。
九、咱们正在接近AGI期间，但AI Agent还作假用Lex：你们若何看Agent？Agent有多有用？
Arvid：我合计Agent就像是东说念主类，你能嗅觉到你正在接近AGI，因为你能看到一个演示，它弘扬得就像一个真东说念主，这确凿很酷。我认为Agent在许多事情上还不是额外有用，但咱们也曾越来越接近它们真实变得有用的阶段了。
是以我合计有些类型的任务，有Agent的话会更好。举例，如果咱们有一个bug，有时你弗成在聊天输入框中使用Command+C和Command+V，这是一个相称明确的任务，我只需要用两句话来说：“这个弗成用，请诞生它。”然后我会很乐意有一个Agent，它会自动去向理，诞生这个bug，然后我记忆检验诞生情况。
它会找到正确的文献，尝试重现bug，诞生它，然后考据它是否正确。这可能是一个需要很万古候的过程。是以我合计我会很心爱这样。而且我合计在编程中，不时有东说念主认为Agent会取代扫数的编程使命。我不认为咱们这样认为，因为许多编程使命，许多价值在于迭代，或者说你其实不想一脱手就明确指定什么，因为你确凿不知说念你想要什么，直到你看到了运行版块，然后你想在此基础上进行迭代，然后提供更多的信息。
是以在许多编程使命中，我认为你试验上想要的是一个即时的系统，它能立即给你一个运行版块，然后你可以相称快速地进行迭代。
Lex：比如最近推出的Replica Agent，它可以成就开拓环境，贬责软件包问题，配置一切，包括配置数据库和部署应用。这亦然你联想中的一部分吗？
Arvid：我合计是的，对于某些类型的编程使命，这确凿很酷。
Lex：这在Cursor的范围内吗？
Arvid：是的，咱们目下并莫得积极地在作念这件事，但可以笃信的是咱们想让表率员的活命更平缓、更有趣，有些事情确凿很乏味，你需要经过一系列门径，你想把这些事情交给Agent去作念。然后有些事情，你可以让一个Agent在后台使命，同期你也在使命。比如说，你有一个同期触及后端和前端的PR（Pull Request），你在前端使命，然后你可以让一个后台Agent去向理后端部分，当你脱手处理后端部分的PR时，你就也曾有了一些运行代码可以迭代了。是以这也会很酷。
十、影子使命区，在后台运行代码Arvid：起先，咱们要明确的是，咱们但愿在后台进行无边的操作，况兼咱们正在尝试许多内容。目下，除了缓存预热或找出大喊键教唆所需的正确高下文以外，咱们并莫得太多其他后台操作。但咱们的想法是，如果能确凿在后台进行计较，那么就可以匡助你瞻望更万古候范围内的操作，而不单是是瞻望你接下来要写的几行代码。
而是瞻望在接下来的10分钟里，你可能会作念什么。通过在后台进行计较，咱们可以花更多的计较资源来作念这件事。是以咱们实施的影子使命区（Shadow Workspace）的见解，并在里面进行实验，是为了真实利用后台计较的上风，咱们需要给模子提供某种反馈信号，否则可以通过让模子想考更万古候来赢得更高的性能，比如o1就是一个很好的例子。
但另一种提高性能的方法是让模子进行迭代并赢得反馈。对于表率员来说，一个相称蹙迫的反馈起头是语言管事器。它存在于大多数不同的语言中，况兼每种语言都有一个单独的语言管事器。它可以告诉你“你在这里使用了过失的类型”，并给出过失教唆，或者它还可以跳转到界说，并贯通你的代码结构。TypeScript语言管事器是由TypeScript团队开拓的，Rust语言管事器是由Rust团队开拓的，它们都通过语言管事器公约与VS Code进行交互。这样，VS Code就不需要内置扫数不同的语言，而是可以使用现有的编译器基础结构。
这是为了代码检验、跳转到界说以及检讨你正在使用的正确类型。当你在处理一个大型技俩时，类型检验和援用查找功能都是必不可少的。如果莫得这些功能，就很难在大型技俩中编写代码。
Lex：在Cursor中是如何使用语言管事器公约进行通讯的吗？
Arvid：在Cursor中，咱们使用语言管事器公约向表率员展示信息，就像在VS Code中一样，但咱们的想法是，咱们还想将这些信息展示给智能模子，况兼咱们想在不影响用户的情况下作念到这一丝，也就是说，咱们想在后台进行这些操作。
影子使命区的想法是，咱们可以创建一个掩蔽的Cursor窗口这样你就可以在它里面成就这个标记，然后把它掩蔽起来。诚然你看不到它，但它确乎存在。在这个窗口中，AI Agent可以随意修改代码，只消它们不保存修改，因为这仍然是并吞个文献夹。然后，它们可以从linters（代码检验器具）中赢得反馈，跳转到界说，并对代码进行迭代。
这是咱们最终想要完结的有蓄意，亦然咱们博客著述主要磋议的内容，因为完结这一丝有点辣手。咱们但愿它在用户的机器上运行，以便整个模拟用户的环境。在Linux上，咱们可以作念一些很酷的事情，比如镜像文献系统，并让AI在文献级别上进行操作，但试验上，这些操作是存储在内存中的。咱们可以创建一个类似于内核的扩展来完结这一丝。而在Mac和Windows上，这有点难，但这是一个有趣的时刻问题，是以咱们在进行这项研究。
Aman：一个可能有些概略但很有趣的想法是，对保存操作进行锁定。这样，你可以让语言模子在保存到磁盘时锁定，然后你就不必在保存到磁盘的文献的真实版块上操作，而是在操作影子使命区中的那些未保存的内容。你仍然可以赢得过失教唆，并可以在其中编写代码。然后，当你尝试运行代码时，会出现一个小告诫，教唆有锁存在，这时你可以从语言管事器或影子使命区中开释锁，以便并发地履行其他操作。
十一、模子查询bug仍有困难，Open o1也不例外Lex：允许模子修改文献是一个令东说念主怡悦的翌日，诚然这听起来也有些吓东说念主。设计AI agent可以自动履行一系列任务，用户第二天只需对收尾进行审查，AI就好像你的共事一样。
Aman：我认为，模子在可运行性方面会有不悯恻况。履行一些肤浅任务时，用户可以在几分钟内凯旋完成，在土产货机器上运行亦然合理的。而履行一些需要更万古候以及更大变动的任务时，则需要在而已的沙盒环境中完成。如何精确将用户环境重当今而已沙盒中，并能确保代码运行收尾的一致性是极具挑战的。
Sualeh：我很好奇，你们（用户）想要什么样的编码agent？匡助你们找到间隙？如故完结一些新的功能？
Lex：编码方面，我认为应该去关注查找各式级别的bug，尤其是逻辑过失，以及完结方进取的过失。
Aman：这些模子在肤浅地教唆下并不善于寻找和发现过失。它们的校准相称差，即即是最理智的模子o1亦然如斯。
Lex：您能解释一下吗？
Aman：我认为这些模子都能够很好地反应预练习数据的散布，跟着耗损函数的裁减，模子的泛化才能也在增强。但当今耗损函数的裁减已实足多，以至于模子能够完结全面的泛化。咱们主要在前沿领域使用模子，用他们进行代码生成并对问题进行回答。在预练习阶段，GitHub上的无边代码，数目高达数万亿个token，Stack Overflow和GitHub Issues等平台上也有无边问题和谜底，都为任务提供了丰富的数据。
但当你尝试推进其中一些在汇集上并不常见的事情时，比如凭证已有的剪辑来瞻望下一个剪辑的Cursor Tab有蓄意，模子的脆弱性就会浮现出来。
另一个很好的例子是bug检测，因为试验上并莫得太多真实的检测bug并提议诞生建议的例子，是以模子在这方面会遭受很大的困难。
但我认为，这同样是一个模子搬动的问题，咱们需要将其他模子搬动到Cursor Tab上，在将相称擅长代码的通用模子搬动到bug检测任务时，效果应该也可以，只是需要咱们稍作念引导。
Sualeh：很昭着，我认为模子相称了解代码。当它们在预练习过程中，未必也曾能够概略地察觉到代码的问题所在。这是因为有些东说念主也曾对这些过失进行了严格的校准。
但当用模子编程的时候，比如编写数据库，这是很宏大的数据信息，即便成就了许多严格的校准表率，可能过失也如故很难被修正。
十二、危境代码标注存争议，开拓团队并不看好赏金轨制Lex：东说念主类也很难判断代码的蹙迫性。如果某行代码可能变成严重后果，应该添加“这行代码是危境的”这一凝视。
Arvid：全部大写，近似十次
Lex：是的，即使是并吞个东说念主也可能会健忘单个代码的危境性。
Arvid：我认为在一定进度上这也适用至今天的AI模子，如果你确凿在每一滑中都标注dangerous，dangerment，dangerous的话，模子也会愈加关注这些，况兼更有可能在该区域发现过失。
Lex：明确标注代码的潜在危害进度是一种邃密的实践。
Arvid：但这种作念法存在争议，举例Sualeh就不太心爱。
Sualeh：诚然从好意思学角度来看我不心爱这种作念法，但它确乎对模子和容易渐忘代码危境性的东说念主们很有匡助，可以幸免一些小的过失导致严重的情况，举例管事器宕机。
Aman：即使是普通的文档字符中，东说念主们在修改代码时也不时会忽略，因此需要明确指出潜在风险。
Lex：东说念主们在修改代码时常时只有计划如何转换功能，而忽略了潜在的风险。
Arvid：如果能够对扫数代码进行款式化考据，就可以确保不会引入bug。
Aman：这个设计中的翌日具体会是什么花式？
Arvid：我认为东说念主们可能不再需要编写测试了，模子会凭证代码自动生成范例，用户只需审查范例。同期，智能推理模子司帐算出代码是否妥当范例。这种方式适用于大多数函数。
Michael：范例的生成确凿容易吗？为软件明确东说念主类的意图是具有难度的，毕竟有些想法很难指定，也很难评释它是否确凿能够妥当你的想法去履行。
Arvid：您认为范例很难生成？
Michael：对于难以用范例语言刻画的需求，款式考据并不可靠。
Arvid：即使有无边的范例文档也难以达成？
Michael：范例可以取代单元测试。
Arvid：但范例语言可以无间发展，以涵盖更多需求。
Lex：这一设计是否适用于通盘代码库，而不单是是单个函数？
Arvid：的确，对通盘代码库进行款式化考据更难，但这是值得追求的有蓄意，况兼从表面上是可行的。举例，最近有一些研究可以对硬件进行款式化考据，包括C代码、GCC编译器和Verilog硬件刻画语言。大型代码库也类似于多层系统，如果可以剖析并分别考据每个部分，那么款式化考据通盘代码库应该是可能的。不外，范例问题确乎是个挑战。
Aman：如何处理反作用和外部依赖？举例调用Stripe API？
Sualeh：Stripe为其API编写了一个范例。
Aman：是否扫数外部依赖都可以提供范例？举例，如果表率中使用了语言模子算作原语，如何将其纳入款式化考据？
Arvid：这亦然可能的。
Aman：如何评释语言模子效果？
Arvid：可以评释语言模子的对皆性，或者评释它能够给出正确的谜底。
Sualeh：这是最终的联想。
Lex：如果这能够完结，将有助于确保代码的正确性和AI的安全性。
Lex：既然模子在bug查找方面存在困难，那么翌日的但愿在那处？
Sualeh：但愿模子起先能够匡助发现一些肤浅的bug，举例off-by-one过失或凝视与代码不一致的情况。最终，模子应该能够发现更复杂的bug。
Michael：遒劲的bug查找模子对于完结AI编程至关蹙迫。如果AI能够自动生成代码，那么也需要能够考据代码的正确性。这不仅是为了匡助东说念主类表率员，亦然为了考据AI生成的代码。
Arvid：是的，但试验上是若何作念到的呢？有一个流行的想法是这样的，引入bug比找到bug更容易，因此可以练习一个模子并引入一些过失代码，然后就可以练习一个反向过失的模子，并用其中的合成数据去寻找过失。这是一个可以的例子。
Michael：还可以利用大型模子和代码以外的信息来援救查找bug，举例通过代码履行轨迹和调试器信息。bug查找器具可能会有两种不同的居品形态，其一是在后台运行的快速模子，用于发现常见的bug。其二是用于贬责特定bug的高计较量模子，用户可以支付一定的用度去使用。
Lex：是否有计划过用资金将这些整合起来？如果模子能够找到bug或生成高质料的代码，我烦嚣付费。前几天，我用Cursor模子生成了三个齐全的函数，主要用于与YouTube API交互，为我提供多语言字幕更新功能。
API文档不是很好，而且有代码交叉征象，我用谷歌搜索得不到真实信息，唯唯一些令东说念主困惑的内容，而Cursor生成得则相称齐全。我想，真但愿能有一个“打赏”按钮，写着“5好意思元”既可以复古公司发展，也可以向模子发送积极反馈信号比如“Good Job”。在bug查找中，也可以引入类似的赏金机制。你们有有计划吗？
Arvid：公司里面对此存在争议。我认为在某种进度上，这取决于你对东说念主性的信仰进度。我认为，如果你不花任何钱就找到一个bug那相称棒。如果没发现过失，你就无谓费钱，而如果你费钱并找到了一个bug，况兼你要点击的“接管”，那么它会炫夸在括号中，比如1好意思元。
这会存在一种担忧，比如，咱们在计较中插足了许多，也许东说念主们会复制粘贴代码，或者付费机制会影响用户的体验。我认为，可以有计划把付费机制与居品进行分离，如果用户每月支付一定的用度，就可以免费赢得扫数的功能。
Lex：可以添加一个“打赏”功能，而不是强制收费。
Arvid：即使是打赏也触及到钞票，可能会影响用户体验。
Aman：用户在共享模子时，东说念主们就也曾在抒发对模子的招供了。
Michael：如果能够开拓出一种时刻技能来考据bug是否已被诞生，那么就可以不必依赖那些依赖于荣誉系统的赏金机制了。
十三、AWS基础设施相称可靠，出现问题的概率聊胜于无Lex：末端和代码之间有些许交互？在末端中运行代码可以赢得些许信息？是否可以完结一个轮回，让模子运行代码并建议如何对代码进行变嫌？目下代码尽头试验运行是整个分离的吗？目下，据我所知是可以在末端中使用“Ctrl+K”来援救进行代码编写。
Aman：可以在Check大喊和Ctrl+K中使用末端高下文信息。但目下还莫得完结轮回功能，不外这很有道理。要津问题在于，这个轮回是在前台进行如故像之前那样在后台进行。
Lex:后台运行的确很酷，因为它可以复古不同的方式运行代码。此外，还需要有计划数据库方面的问题，举例如何驻守模子修改数据库。
Sualeh:有一个可以的贬责决策。即正在开拓一个新的API，我认为PlanetScale和Turbopuffer数据库都会复古这种功能。当你正在开拓一个功能并对数据库进行测试时，试验上你并不想针对平淡的数据库进行测试，你可以向数据库添加一个分支，而不是去修改主数据库。
这种时刻的完结方式是为数据库的预写日记添加分支。数据库公司需要无间开拓新功能，而分支功能可能成为翌日的一个趋势，AI agent也可以利用数据库分支进行测试。
Lex：在此可以对基础设施干系信息提议一些问题，Cursor团队目下是主要使用AWS（亚马逊云科技）吗？在使用AWS的过程中，都遭受了什么挑战？
Arvid：AWS相称出色，无论在何时使用它的居品老是能够正常使命，诚然完成其成就过程可能超等辛勤。真话说，AWS确乎值得信托，如果出现问题，那很可能是你我方的问题。
十四、扩展问题是公司发展难关，褪色保护也亟待冲破Lex:Cursor算作一家初创公司，在发展中遭受了哪些挑战？
Michael：跟着苦求量级的无间晋升，缓存和数据库等通用组件都会遭受瓶颈。举例，咱们当今也曾遭受遭受了数据表溢出等问题。此外，咱们构建的一些定制系统，举例用于代码语义索引和问答的检索系统回答相关代码库的一些问题，我也一直认为这是比较辣手的扩展问题之一。
Sualeh：我的超等高级工程师一又友们说，在扩展过程中很难瞻望系统会在那处崩溃。您可以提前尝试瞻望，然则在添加这些额外的内容时，总会发生一些奇怪的事情。具体而言，Cursor将扫数的代码进行分块，然后发送代码进行镶嵌，然后将镶嵌代码储存在数据库中，但试验上，并不储存任何代码。而后就是咱们要确保不引入客户端bug，因为咱们对这些bug相称严格，管事器上存储了许多细节，一切都是加密的。
因此，时刻挑战之一就是如何确保土产货代码库情状与管事器端情状保抓一致。时刻层面上来说，咱们的作念法是将对管事器端的哈希值进行下载，并对比土产货的哈希值，计较差额，来详情短少的文献是什么。但这会加多汇集支出。如果您使用了Cursor，莫得东说念主但愿有东说念主一直对WiFi施加操作。
而且，这也会对数据库变成巨大支出。它将读取数十TB的数据库，每秒钟接近20TB或者更早的数据库。这太豪恣。为此，咱们给与了Merkle树结构，只需要和洽单个哈希，即技俩的根节点，去检讨哈希值不匹配的子项，并依此类推，可以极地面裁减支出。
但跟着使用东说念主数的增多，代码库也变得格外宏大。最初，咱们对暗代码库进行了重新成列，但如今其鸿沟也曾远不如一些领有宏大文献的公司的鸿沟了。建构一个东西很肤浅，但扩展到更多东说念主、更多公司，这是个难题。咱们也在奋勉贬责这些问题。
Aman：的确，索引系统有许多需要琢磨的东西。试验上镶嵌代码才是瓶颈。为了幸免近似镶嵌同样的代码块，咱们给与了一种缓存机制，行将代码块的哈希值与对应的向量缓存起来，这会使得一些公司，在使用Cursor时，代码镶嵌的速率会大大晋升，用户不需要储存代码数据，只存储向量数即可。
Lex：目下，您认为代码库索引带来的最大受益是什么？短期来看，代码库有什么用呢？
Arvid：最昭着的一丝是，当你向找出大型代码库中特定的一些东西时，你可以通过腌臜性的发问来进行搜索。比如“我想找到履行X功能的方位。”然则你并不知说念在文本搜索中要输出什么语言。你只需要苦求聊天，按照enter大喊来商议代码库进行聊天。许多时候，模子平日都能够给你提供正确位置。
Lex：为什么Cursor不有计划在土产货进行代码镶嵌等操作？
Arvid：咱们也有计划过这种决策，但完结起来很困难。一些用户使用的是最新的MacBook Pro，但越过80%的用户用的是Windows机器，其中许多机器功能并不口舌常遒劲，试验上，土产货模子试验仅适用于最新的计较机，况兼构建过程也会出现很大的支出。因此，即使咱们向这样作念，但也如故很难作念得到。
Aman：是的，宏大的数据库只会消耗无边的内存与CPU。此外，正如Arvid所说的那样，土产货模子建设存在着巨大阻力，其中似乎都执政着MOE架构发展，诚然MOE模子对内存带宽的要求更高，况兼成心于土产货运行，但全体模子的鸿沟也会变得更大，需要更多台机器才能运行。我认为，对于编码生成而言，用户但愿能够用到最好、最理智、最有才能的模子，但在土产货完结却很困难。
Arvid：试验上我很心爱土产货模式的替代决策。我认为，它仍然处于研究阶段，可以把它瞎想成，为语言模子推理进行同态加密。用户可以在土产货加密输入的数据，然后发送给管事器进行推理。管事器可以可以对加密数据进行处理，但无法读取数据的具体内容，而后管事器会把谜底发还给用户并进行加密处理，用户只可通过解密检讨返还的内容。目下同态加密的资本依然很大，如果能够裁减资本，我相信这会相称值得期待。
寰宇上有越来越多的信息和数据将流经两个中心化的参与者，但这会有些令东说念主担忧，比如传统黑客的入侵，这口舌常可怕的。用户可能会被黑客监控。东说念主们奋勉驻守不良入侵者使用AI模子，继而引入一些监控机制，但这些监控机制又可能被滥用，比如用户的数据可能会被监控。是以咱们但愿，咱们可以贬责同态加密问题。
Lex：我想说，这是扫数软件都面对的挑战。就像云可以提供许多便利的功能，东说念主们就越来越依赖它，然则它也存在污点，这就是为什么需要依靠遒劲的安全措施来抵抗一些迂回。然则也又一些具有影响力的公司限定着这些数据，这就是咱们存在着的现实活命。
Sualeh：是的，我相称惦记。举例Anthropic公司有这种负包袱的扩展计谋，其中咱们是初级别的，当咱们进入高级别时，任何模子都会出于合理的安全原因，都会但愿对监控有所教唆。我认为这是合理的，但也存在一些缺欠，如果扫数信息都被见监控，那会相称可怕。
Aman：您认为它（AI模子监控）与云管事供应商有何不同？
Arvid：我认为许多数据一脱手并不会流向云供应商，而平日你会把更多的数据提供给AI。一脱手用户并不会把我方的数据都放在汇集上，给那些公司或者模子。但当今AI模子的监控愈加鸠合，云管事中的用户都可以使用加密密钥，而AWS对此却窝囊为力，但在这里唯独中心化AI模子提供商才能够看到真实的文本内容。
十五、对于高下文练习中对于高下文和模子练习的探讨Lex：在使用Cursor时遭受的一个问题，当我在Python中写代码的时候，会导入一些内容，模子若何知说念我想在高下文中提到哪些内容，弄潜入这一丝有多困难？
Michael：我认为咱们将来可以在自动计较高下文方面作念的更好。需要留神的是，包含自动高下文需要衡量弃取。因此，你为这些模子包含的高下文愈多，其速率就越慢，这些苦求的资本的就越高，这意味着，你可以调用的模子就会越来越少。此外，对于这类模子来说，如果教唆中包含了太多信息，它们会合计困惑。因此，在高下文中呈现出的信息准确性和干系性的模范要十分高，咱们也但愿能够作念得更好。
咱们在里面也尝试过一些转换措施，但目下该领域还存在一些问题。让语言模子真实达到贯通新信息语料库？高下文窗口能否无尽扩展？模子能够真实作念到关注无尽的高下文吗？能够对这些高下文进行缓存而不必近似计较吗？还有许多想法都在尝试中，这些想法类似于在模子权重学习过程中进行微调。共事算作一家公司，咱们很适意可以领有更好的检索系统，也但愿可以作念的更好。
Aman：一个有趣评释是VS Code（跨平台源代码剪辑器）。
咱们处于一个分叉节点。VS Code的代码是开源的，大型语言模子在预练习过程中也曾见过这些代码，况兼经过微融合RLHF（东说念主类反馈）练习，能够回答与代码干系的问题。因此，当用户商议对于VS Code的问题时，模子有时能够给出正确的谜底，尽管有时也会出现缺欠。如果能够练习一个挑升的模子并成立一个贯通这些问题的代码库，这会很有研究价值。
另外，咱们对于一个洞开性的研究问题充满风趣，同期也存在着省略情趣，即用户是但愿模子在前端履行完扫数任务，如故将检索与代码生成进行分离？翌日的几个月，可能会出现一些真实有才能的模子，而后用户可以单独练习一个相称优秀的开源模子并将其算作检索器，在高下文中为这些更大的模子提供信息。
Lex：如何针对特定代码库进行模子练习？
Aman：有许多方法可以尝试，需要通过尝试详情效果。一件相称蠢笨的事情，是尝试复制VS Code和一些前沿模子作念过的事情。是以咱们应该接续进行预练习。某种抓续的预练习，在接续预练习阶段加入特定代码库的数据，并在指示微调阶段加入对于该代码库的问题。咱们从指示微调脱手，建立一个对于代码的通例指示微调数据集，继而抛出更多对于该存储库中的代码问题。
你可以获取更多难以赢得的真实数据，或者可以使用合成数据来履行一些操作，让模子对代码各式新组成部分提议问题。因此，获取代码片断，并让模子对此提议问题，再将其添加到指示中对数据点进行微调，从表面上讲，这一过程可能会解锁模子贯通该代码库问题的才能。
▲播客现场（起头：YouTube）
Lex：想问一些对于OpenAI o1的问题，您认为测试计较系统在编程中的作用是什么？
Aman：我认为测试时候计较相称有趣。因此，跟着数据量和模子大小的推广，预练习轨制将使耗损函数和下流任务中的弘扬越来越好。然则，咱们正在面对一些数据壁垒。这意味着，接续扩大数据鸿沟变得愈加困难。
因此，扩大测试时候计较是一种有趣的方法，如果当今加多咱们使用推理时候的flop计较数目，使用Infer Time时，这些模子老是会有更多的flop，但当今，咱们也许可以使用一样大小的模子并运行更万古候，并赢得与更大模子鸿沟格外的薪金。
某些查询可能需要100万亿参数鸿沟的模子才能处理，但这类查询可能只占扫数查询的0.1%。在这种情况下，也许有些残害元气心灵。而练习一个能够处理99.9%查询的模子，然后可以给与一种方法为那些真实想要更高智能查询的东说念主延长推理时候。
Lex：如何判断哪些问题需要更高水平的智能？是否能够动态地在GPT-4与o1使用之间进行切换？
Aman：确乎这是一个问题，也莫得东说念主真实很好地贬责它。团队在Cursor Tab功能中完结了肤浅的模子路由，但在GPT-4和o1之间的切换还比较困难。另外，需要什么级别的AI来详情对于司机模子是否太难，可能需要o1模子，但这很难说得潜入。
此外，还需要有计划如何判断某个问题对GPT-4来说是否过难，这可能需要o1级别的模子才能判断。
测试时候计较需要一个完整的练习策略才能正常履行。此外，在大型实验室以外，可能唯独OpenAI，但没东说念主知说念它是如何使命的，有一些相称有趣的论文炫夸了它们可能提供了若何的走漏。因此测试时计较可以归类为后练习阶段，但翌日用于练习复古测试时计较的模子的算力可能会越过预练习阶段。
Lex：如果要构建一个与o1竞争的模子，应该若何作念？
Aman：也许咱们可以练习一个过程奖励模子。其中有收尾奖励模子和过程奖励模子的区分，收尾奖励模子是东说念主们接管语言建模练习的传统奖励模子，它更可贵最终收尾。过程奖励模子则需要对想维链进行层层分袂。OpenAI昨年发表了一篇对于过程奖励模子的论文，他们使用东说念主工标注的数据集练习了一个过程奖励模子。
目下，过程奖励模子主要用于从多个模子输出中遴荐最好谜底，但还看不出什么额外优秀的方位。广漠的学术效果中，东说念主们要作念的是从语言模子中抽取一些输出数据，然后使用过程奖励模子对这些进行赋分，继而选出最好谜底。翌日，东说念主们就是使用过程奖励模子尽头树状结构，探索想维链的多个分支，继而评估分支的质料。
Lex：当分支质料与收尾质料密切干系时，就能够匡助模子遴荐用哪个分支更好？
Aman：是的，我认为也许东说念主们磋议开源模子练习过程奖励模子时，给与的是更自动化的方式。但目下我并未看到任何东西能够创造性地使用过程奖励模子来进行树状结构搜索和编码。
Lex：有一个AI安全问题，它更像是玄学问题。OpenAI曾说，他们向用户掩蔽了想维链，这是个繁重的决定，他们会在后台对想维链进行监控，以此确保模子不会试图对用户产生侵略，这确乎令东说念主颤动。但你们对于掩蔽想维链这件事有何看法呢？
Michael：我推测，OpenAI可能是为了驻守别东说念主从他们的模子中窃取他们的时刻。如果你能够详实看到想维链的每个门径，那这个时刻就更容易呗获取。
Lex：是以你也可以用这个来练习吗？
Michael：可能大语言模子供应商之间会存在这样的情况，其中一切API也曾提供了他们的扫数记载概率的探望权限，但自后又取消了。其中的原因可能就在于，那些探望了记载概率的东说念主，可以窃取到模子的时刻信息。
同期咱们也集成o1到Cursor之中，对于o1咱们也有浓厚的风趣，况兼我合计许多表率员也都对此充满期待。但无论如何，o1都不是Cursor默许体验的一部分，目下咱们还莫得找到将其集成到剪辑器中的有用方式。是以我认为，如何和使用这个模子（o1），如故个未知数。
Sualeh：咱们有一些好意思好想法，但需要找在发布之前赢得一些适用的场景。
Aman：o1模子还存在许多限定，比如不复古流式输出，这意味着用户无法对输出过程进行监督，只可恭候文本的出现。另外，它时刻发展还处于早期阶段，有许多需要转换的方位，翌日会在加多预练习数据量，扩大模子体量的同期，让搜索使命也变得越来越好。
Lex：GitHub Copilot似乎正在以某种方式集成o1模子，有东说念主认为这意味着Cursor要结束？
Michael：我认为这个领域与2010年代的软件领域有所不同，此处天花板确凿相称相称高，是以我认为，三到四年内最好的居品很快就会比今天最好的居品更优秀。我认为即便领有一个很好的品牌，但不去创新翌日如故会失败。接下来几年我认为，要津在于建构最好的居品与系统，这需要归结于建模引擎与剪辑体验。
Aman：是的，我认为Cursor的上风在于其不单是是快速集成新模子就像o1那样，同期它亦然深度定制的模子，况兼很可贵用户体验。
十七、详刨三类合成数据分类法Lex：您能解释一下，合成数据分类法是什么吗？
Aman：合成数据是可以从AI中赢得的一些数据，我认为合成数据主要有三种。第一类是蒸馏，包括语言模子、输出token或token的概率散布，可以用来练习才能较弱的模子。这种方法无法生成比原始模子更遒劲的模子，但可以将上流的高蔓延模子的才能索求到较小或履行特定任务的模子中。
第二类是合成数据利用了某些问题中一个办法比另一个办法更容易的本性。举例，在bug检测问题中，引入bug比检测bug更容易。咱们需要作念的是，在一个未经充分练习的模子中引入一些bug，然后用这些合成数据练习一个擅长检测bug的模子。
终末一类，是使用语言模子生成可以平缓考据的文本。比如，想对系统进行考据，检测语言是否能够达到莎士比亚的水平，你可以让山公或者打字机去打字，最终就能够赢得充分的练习数据来培养一个莎士比亚级别的语言模子。
对于具体的引导代码的代码，可以通过测试收尾来判断这个测试代码是否及格，咱们也可以使用模子生成、通过测试的代码来对模子进行练习。但我认为这种方法很难产生试验效力，在洞开式任务或者发杂任务中，很难找到齐全的考据器。
十八、东说念主类反馈联动AI反馈，共同晋升模子练习效果Lex：东说念主类反馈的强化学习（RLHF）和AI反馈的强化学习（RLAIF）比拟而言如何？对AI模子性能晋升都有什么作用？
Aman：RLHF是凭证东说念主类反馈信息来进行练习的，我认为，如果能够为专注的任务提供充分的东说念主类反馈那么效果会相称可以。
RLAIF则比较有趣，它凭证敛迹条目履诈欺命，比如使用语言模子来考据贬责决策比生成一个贬责决策要容易，它更容易见效，因为RLAIF可以完结一种递归轮回。
咱们可以将二者进行研究，在两者之间遴荐一个均衡点，比如在某型生成的正确代码中，加入极少的东说念主工反馈，约略50-100个示例，就能够让模子的先验内容与咱们的构想完结一致。
这看起来与普通的RLHF不同，普通的RLHF平日需要无边的示例对奖励模子进行练习。
十九、AI会在完结AGI前获菲尔茨奖？Lex：凭证你的直观，生成与考据或者生成与排序哪个更容易呢？
Aman：凭证直观而言…可能是这样的…既定情况下考据更容易，而非找到评释。
Sualeh：AI赢得菲尔兹奖的可能性有多大？
Sualeh和Arvid：AI更容易赢得菲尔茨奖。
Aman：诚然AI也曾贬责了许多难题，但当今还省略情定理评释领域中AI效力如何。其次，对于咱们距离贬责这些相称相称难的洞开性问题还有多远，我的直观也不那么准确了。
Lex：你认为AI会先赢得菲尔兹奖吗？而不是物理学或其他的什么。
Sualeh：我认为百分之一百是会赢得菲尔茨奖的。我合计，一些奥数难题，比如伯奇和斯温纳顿-感恩（Birch and Swinnerton-Dyer conjecture）料想对于AI而言还口舌常难的，当今还并不知说念如何去贬责这些问题。
Aman：AI可能会在完结AGI之前就赢得菲尔茨奖。
Sualeh：如果能赢得，我会相称喜跃的，我合计，可能在2028或者2030年就会完结吧。
二十、谈缩放律例的翌日，“模子越大越好”不雅念已失效Lex：谈到缩放律例（scaling laws）的话题，大家可以就此谈一下我方看法，对于近况以及翌日的发展有何看法？
Aman：最初OpenAI对于缩放律例的论文存在一些过失。他们提到了对于优化学习效率的问题。自后，Chinchilla的论题提到了一个更准确的版块。自其时起，东说念主们脱手不再专注于计较优化，而是愈加关注在有限的推理预算下赢得更优异的效果。
Aman：我认为，这些缩放律例弧线的维度远比咱们最初仅用于计较参数数目和数据的维度要丰富得多。比如，推理计较就是一个了然于目的维度。我认为，高下文长度是另一个昭着的维度。假定咱们关注推理计较和高下文窗口这两个方面，也许咱们想要练习的是某种情状空间模子（SSM）。
它们在处理超长高下文时，资本要低得多，速率也要快得多。即使练习时的扩展属性可能需要10倍的计较量，也就是说，需要花消10倍的计较资源来练习模子，以达到一样的才能水平，但这亦然值得的。因为咱们最关注的是超长高下文窗口下的推理资本预算。因此，东说念主们翌日将会这些维度上进行探索。
Lex：你合计大家是否还在相信“越大越好”这一理念？
Aman：对于原始性能和原始AI来说，更大的模子笃信更好。我认为，东说念主们如故会更看好蒸馏时刻。如果咱们插足无边、无边的资金进行练习，以赢得最具性价比的模子，那么咱们可以诊疗些许个参数呢？
这一丝确乎值得关注。因为只是在推理时候上尽可能多地插足计较，这种纯确凿作念法，东说念主们也曾在Llama模子上尝试过了。或者，只是是对7B（70亿参数）模子进行过度练习，使用的token数目也远远越过了最优需求。
然则，如果你确凿介意这件事，也许咱们可以像Gamma所作念的那样，不单是是在token上进行练习，而是实实在在地通过最小化与Gemma 27B散布的KL散度来进行练习，这就触及到了学问蒸馏。试验上是在扫数这些token上，花消计较资源来练习这个领有270亿参数的模子，然后将其中的内容蒸馏到一个更小的模子中。
Lex：蒸馏只给你一个更快的模子，越小意味着越快？
Aman：我认为，蒸馏在表面上是从你正在练习的数据中索求更多的信号。这可能是另一种方法，不是整个克服数据墙，而是部分地匡助咱们克服数据墙。可以练习的数据有限，让咱们用扫数这些token来练习这个相称大的模子，然后咱们将它蒸馏成这个较小的模子。比拟于咱们我方去练习模子，蒸馏能够让模子赢得更多的信号。
Lex：如果给你们10万亿好意思元的预算，你们会如何作念？
Aman：我认为有许多对于练习这些大型模子的奥秘和细节，唯独大型实验室才知说念。即使我奋勉去作念，也会残害许多钱。
Lex：假定赢得扫数信息，包括练习参数以及方式方法，翌日五年中你会如何投资才能使你们所说的原始AI完结最大化？
Sualeh：我合计，谜底很肤浅。你只需尽可能地购买实足多的计较机，而后每一天所要作念的就是购买GPU，研究东说念主员就可以凭证有蓄意来遴荐去练习大模子如故小模子了。
Aman：这触及到一个问题，咱们是确凿受到计较和钞票的限定，如故受到其他什么制约？
Sualeh：更多是受限于自身不雅念吧，但也存在其他一些限定身分。
Lex：你们会遴荐进行无边的实验如故遴荐使用这些计较资源来练习一个巨大的模子？
Arvid：可能会遴荐通过实验，我觉适合今咱们仍受限于咱们目下所抓有的不雅念。
Aman：我认为是这样的，因为即便领有了寰宇上扫数的计较才能和可网罗的数据，最终如故会受到限定，而且限定的不单是是想法，是受制于更额外的工程时刻。即便领有寰宇上扫数的资金，真实能在这里大有算作的东说念主并未几。
研究使命中包含无边隧说念的、极其繁重的工程时刻使命。举个例子来说，如果你望望原始的Transformer论文，将文献中镶嵌的许多相称有趣的见解交融在沿路，而且还需要编码，这些过程，都需要了得的工程师来完成，就像GNOME Azure。
进一步说，让下一代模子进行并行化使命，这需要宏大的工程量，我认为要让扫数这些事情都见效，需要插足无边的工程时刻使命。比如，能够将工程插足资本裁减10倍，让那些领有好意思好想法的东说念主真地完结那些结构，晋升40%到50%的GPU的利用率，那研究使命的效率可能会大幅晋升。
Sualeh：如果能够看到一个潜入的转换道路，那么收尾就会顺手可取。我认为，可能OpenAI和其他一些实验室的作念法是对的，它们收拢了这些效果。比如，GPT-4.25。现有方法是有用的，那就不需要有计划创新，唯独当当今遭受瓶颈时，才需要创新。我认为，如果领有10万亿好意思元的预算，也许试验上会先去扩大鸿沟，然后再对自身的不雅念进行更新。
只消现有的方法有用，就莫得必要尝试新的想法。唯独当现有方法遭受瓶颈时，才需要新的想法。如果领有10万亿好意思元的预算，那么可以先尝试扩大鸿沟，然后重新评估想法。
Aman：咱们都相信，去完结AGI需要全新的不雅念。咱们也相信，可以在更小的鸿沟内去测试一些新的不雅念，而且咱们有信心这会见效。对于现时的实验室而言，将有限的研究和开拓东说念主才投注到开拓其他的新想法之中是十分困难的，毕竟现有决策在翌日较万古候都有用。
二十一、谈编程翌日，仍需表率员领航Lex：你们当今处于编程寰宇的中心。你们认为编程，编程的试验在翌日几个月，在翌日几年，甚而十年会发生什么变化？
Michael：我认为，咱们对翌日充满期待，因为表率员在很长一段时候内都坐在“历史的驾驶座”上。咱们曾谈到过这个问题，这需要表率员有着高效、代理才能与限定才能，他们可以修改任何你想修改的东西，况兼对你构建的内容进行快速迭代优化。
此处，与“同计较机对话形的编程”有隔离，与计较机对话，就好比你在Slack上与工程部门或工程师进行交谈一样，输入需求到一个孤立的文本框，AI就会自动为你完成这些使命。但这也有些问题，起先会有蔓延性，其次这也意味着排除了一些限定力。
从根底上说，工程试验的履行情况，是凭证你构建的微弱决策来进行的，其中东说念主的要津作用是弗成被AI取代的，要让东说念主类坐在“驾驶位”来掌舵。
而翌日编程的情况，很可能是表率员可以限定代码库的抽象级别，可以通过不雅察伪代码的款式对代码库进行剪辑。而且表率员也可对编程软件的逻辑进行修改，保留其限定权，这样可以大幅度晋升坐蓐力。
但这只是一个腌臜的想法，还需要许多细节需要贬责，最终能否完结还有待不雅察。然则东说念主自身的限定力、效率以及以东说念主为中心不雅念口舌常蹙迫的。咱们认为，对于一些像Arvid之前提到一样，某些编程，可以把它交给聊天机器东说念主。但大多数编程任务东说念主需要东说念主深度参与。
Lex：编程的基本技能是否会发生根人道的变化？
Michael：试验上，我认为当今是开拓软件相称令东说念主怡悦的时刻。不管什么时候，许多代码依然如故需要查阅许多难以贯通的信息。但今天的编程比以前有趣多了，东说念主们脱手享受编程。当今的编程让东说念主具备快速构建事物的才能，东说念主们的限定力也被极大晋升了。
对于那些编程东说念主员来说，这亦然个充满道理的时期，东说念主们的创意和说念应许被放大，如果你是表率员，那今天应该愈加留神这部分的特殊性。
Arvid：我也同意，最近咱们正对代码库进行一次比较大的搬动，将Node.js中的Async Local Storage替换为 Context对象。即使可以借助AI，这个使命也依然需要我与另一个工程师花消约略五天的时候。不外翌日，咱们可能只需要给AI展示几个例子，然后这个搬动任务，就可以在10分钟内完成。表率员可以借助AI更快的使命，而不需要在事前就有计划太多，而且任何事情，其实都可以先去尝试新方法，尝试的资本并不高。
Aman：我合计在编程中有两种方式，其一是奋勉想考，仔细寻找贬指责题的最好方法然后用有限时候来考据。其二是径直履行代码，看是如何履行的并就此进行更新。我也更认同后一个决策。
Lex：那对于当今想要学习编程的东说念主而言，你们有什么建议呢？应该学习什么？比如Java亦或者PHP？
Aman：我认为，每个东说念主都有学习编程的自身原因。但我合计，试验上那些确凿兴趣编程的东说念主，会是最好的表率员。在咱们团队里面，许多东说念主在使命后依然会用Cursor编写我方的编程，有的东说念主甚而会熬到凌晨三点去作念这件事。当他们酸心的的时候，还会说“我需要写点代码。”来宽慰我方。
这种对编码的兴趣，趋势他们成为了最好的表率员，我也认为这些东说念主将会讲求插足到那些他们研究的事物之中。我认为，翌日的编程者们需要会更多地关注“你想要创造什么”。
Sualeh：表率员可以通过更丰富的方式抒发我方的意图。
结语：共建东说念主机协同体系，改善表率员活命Lex终末运用Cursor团队的宣言为本次言语作念出总结，在《工程天才》中他们说“咱们是一个应用研究实验室，构建不可想议的坐蓐性东说念主机协同系统。”
宣言中写说念：“起先，咱们正在培养翌日的工程师，即东说念主类AI表率员这比任何一个工程师的效率都高出一个数目级。这种羼杂型工程师可以平缓地限定代码库，况兼无需进行低熵键盘操作。即使在最复杂的系统中，他们也会以判断的速率迭代。通过研究AI和东说念主类奢睿，他们将比最好的纯AI系统更理智、更工程化。咱们是一群研究东说念主员和工程师。咱们构建软件和模子，在有用性和可能性基础上进行发明。咱们的使命也曾改善了斗量车载表率员的活命。”
Lex称，在这个言语中，至少让编程更有趣了。
起头：YouTube