人类的Andrej Karpathy说外界已经看到了AI真正能做的事情.

简介:OpenAI联合创始人Andrej Karpathy绘制了四个用户级别,从75%几乎没有使用LLM到5,000内部人士看到边境AI代理和能力差距.

标签: AI,OpenAI,LLMs,卡帕蒂,人类

主要图像:四个同心的用户圈和小代理集群,没有人,标志或文本.

Andrej Karpathy ,OpenAI的联合创始人,描述了公众聊天机器人和内部边界系统之间的AI能力差距.他说大约75%的全球人口 (大约60亿人) 几乎没有接触到大型语言模型,而一个更小的群体则认为系统已经在处理需要顶级专家多年的任务.

背景:对大型语言模型的四层接触

卡帕蒂将用户分为四个层次.最大的群体约有60亿人,大约占世界人口的75%.他们几乎没有遇到LLM.下一个组是10亿至20亿免费级别ChatGPT类产品的临时用户.在他的讲述中,他们把这些系统当作更好的谷歌搜索,写字辅助或其他日常用途.

差距不仅在非技术人员中. 数学和编码以外的许多专业人士都处于这个层面.卡帕蒂指出,高管和类似角色的人大部分时间都是与其他人交谈,因此他们可能会从智力上理解这项技术,但将其视为二手和抽象的体验.

发展:从营销作到代理人编写的代码

第三层是大约2000万人,或 0.2 世界百分之一. 这些都是数学和代码中的前沿级LLM的专业用户. 他们看到大型复杂的项目通常需要几个星期或几个月才能通过代理完成提示. Karpathy列出了构建应用程序,拷贝应用,翻译应用程序以及从二进制文件中解编应用程序作为例子.

变化是迅速的.在10月2024,卡帕蒂打电话给AI几乎不起作用的大多数营销代理人.几个月后,他说他完全停止了手工编写代码.这一转变使他从记住的计算机代码命令输入到一个字符对比的代码编辑器中移动到让代理人处理这项工作.然后他加入Anthropic,尽管他是OpenAI联合创始人.

最新消息:内部系统显示一个垂直曲线

在顶部是一个非常小的群体. Karpathy估计约有 5,000 人,大概是 0.00006 百分比全球人口,可以访问内部边境级系统.他写道,外部世界已经看到了预览版.这个组看到成千上万的代理人在几周内合作软件大型项目: software造零天,以机器速度运行网络攻击和防御,发现新科学,并推进数学前沿.这些任务将需要高级专业人员数年时间.

人类的阅读和理解已经开始落后. Karpathy指出,人们仍在研究几个月前发生的OpenAI-HF事件的考古学,他指出数学家们可能会仔细研究一段时间内722份关于边界数学的手稿.

他称之为"时刻的怪异性". 大多数公众并没有与这些系统互动,而当他们这样做的时候,这种体验可能看起来像derpy聊天机器人.大多数专业人士只看到一个适度的提升. 一个小片段正在经历曲线垂直变化的 of. 所有这一切都同时发生.

下一篇:编码,数学和下一个复习瓶

卡帕蒂的观点与OpenAI Andrej Karpathy相重叠.在9月初,阿尔特曼也提出了类似的说法:当前 AI 的编码工具可以在17分钟内实现一家创业公司之前用三个月时间构建的目标.阿尔德曼表示,世界还没有赶上这意味着什么.

卡帕蒂说LLM能力目前在数字化,可验证和经济价值的领域达到了顶峰.他将这一点与可检查奖励上的强化学习 (reinforcement learning on verifiable rewards) 相联系起来,这种培训方法可以奖励可衡量的结果,以及公司将培训资源引导到具有最高收入潜力的领域.现在,这意味着编码和数学.接下来要关注的是人类审查,理解和公众理解是否跟上了已经以机器速度运行的系统.