Google 表示嵌入Gemma 2比竞争对手 embedding 的模型大两倍

Google 嵌入Gemma 2 将 multimodal 的搜索置于7400万个参数中

简介: Google EmbeddingGemma 2将文本,图像,视频和代码转换为局部矢量,具有740万个参数,191个MB RAM,以及线下支持 RAG .

标签:嵌入Gemma 2, Google , 当地 embeddings , multimodal 搜索,离线

特色图片:抽象的技术风格与矢量 embeddings 链接文本,图像,视频和代码节点,没有真实的人,没有公司标志,没有文字

背景: 一个小男孩的故事. (笑) 啊! . .
嵌入Gemma 2进入了一个检索堆,其中文本,图像,视频和代码首先被转化为数值矢量或 embeddings ,因此机器可以比较含义而不是确切的措辞.由于 embeddings 代表内容作为坐标,所以查询可以通过距离与存储项进行比较,这就是语义搜索如何找到相关结果即使词汇不同时.该比较步骤位于搜索,推,重复检测,代码辅助以及 retrieval-augmented generation 或 RAG 的下方,这是一个在语言模型答案之前获取相关上下文的模式.从历史上看,更强大的 multimodal embedding 模型要求更多的存储空间,更多的内存和 server 侧推理,这使得浏览器更加难以部署本地,888000 和敏感于隐私的 vector database 8 .

发展: 一个小组的组成部分, 简单地说下来.
标题数字为7.4亿个参数. Google 将EmbeddingGemma 2描述为同类型中最紧的模型,并表示它在 multimodal 和 embedding 基准测试上比竞争对手机高出其尺寸的两倍.该基准结果给了这一说法一个具体的形状:EmbeddedGemma2在Massive Text Embedding Benchmark (Code) 上得分为78.68 ,几乎超过前者68.76的10点.来源称这使其与更大的模型相提并论.对于代码繁重的检索,这个基准类别很重要,因为开发人员经常通过函数定义,文档片段和项目历史进行搜索.对于开发人员来说,这种组合是重要的,因为较小 embedding 模型可以降低查询和存储向量的成本,而更强大的相关代码检索工具可以支持跨仓库,文献和混合媒体的搜索工具.

最新进展: 时间:2015年1月2日. . . . , .
该版本最引人注目的是它可以在 cloud service 之外做什么. 嵌入Gemma 2 在本地运行没有API键,每个查询通过浏览器的WebGPU需要大约20到70毫秒. WebGPU是允许网络应用程序使用设备图形处理能力进行计算任务的浏览者界面.该模型需要191 MB的RAM,而 Google 表示它可以将本地 vector database 存储量减少多达六倍.对于仅为文本任务,来源说2.7亿参数版本足够. 该模型还可与小开放型号如Gemma 4配对以离线运行 RAG apps ,这意味着检索和答案生成可以保持在设备上而不是发送数据到外部 servers . 重量可在Hugging Face和Kaggle上获得,以及开发人员文件和指南.

目前的阶段: 时间:2015年1月2日. . . .
嵌入Gemma 2现在处于开发者采用阶段,而不是消费者产品阶段.它为 multimodal embeddings ,本地搜索和离线 RAG 管道提供了一个紧的开放路径,特别是在内存,存储和隐私受到限制的地方.接下来重要的是20到70毫秒浏览器延迟是否保持在不同的 hardware 上,无论1910893内存数字和6倍的存储减少转化为更流暢的本地 apps ,以及270万参数仅文本变量是否成为较小的检索任务的实际默认版本.