大模型的蒸馏与量化相关概念通俗理解

一、模型蒸馏:知识的传承与简化1.1 为什么需要模型蒸馏?1.2 模型蒸馏是如何实现的?1.3 模型蒸馏的优势二、模型量化:降低精度,提升效率2.1 为什么要进行...

知乎问题:大模型的 Embedding 层和独立的 Embedding 模型有什么区别?

 今日看到知乎问题:大模型的 Embedding 层和独立的 Embedding 模型有什么区别?特意整理成一篇文章,供大家参考。1. 引言想象一下,如果我们要让计算机...

🧠 解码大语言模型的记忆力:上下文长度的前世今生

在与ChatGPT、Claude等大语言模型对话时,你是否好奇:它们是如何记住我们之前的对话内容的?为什么有时它们能记住很长的对话,有时却会"失忆"?今...

天工有点料,智能体应该长这模样

01AI    NEWS用哪个?智能体大爆发    这段时间智能体大爆发,却也让人眼花头昏,热门的是这几个Manus、Lovart、Flowith、Youware,天工...

🧠 解码大语言模型的记忆力:上下文长度的前世今生

在与ChatGPT、Claude等大语言模型对话时,你是否好奇:它们是如何记住我们之前的对话内容的?为什么有时它们能记住很长的对话,有时却会"失忆"?今...

Sam Altman 最新文章:悄然而至的奇点,一场温和的革命

  Sam Altman 最新文章《The Gentle Singularity[1]》人工智能带来的“技术奇点”已经以一种比我们想象中更平缓、更“温和”的方式悄然开始,它并非科幻小说中描...

腾讯、夸克,鏖战AI浏览器

作者 | 戴凯 编辑 | 宸辉 媒体 | AI大模型研究社 搜索框是这个时代的信息入口,AI则是重新定义入口的钥匙。 在2025年I/O大会上,谷歌通过整合 Gemini 2.5 ...

🧠 解码大语言模型的记忆力:上下文长度的前世今生

在与ChatGPT、Claude等大语言模型对话时,你是否好奇:它们是如何记住我们之前的对话内容的?为什么有时它们能记住很长的对话,有时却会"失忆"?今...

大模型是「躲在洞穴里」观察世界? 强化学习大佬「吹哨」提醒LLM致命缺点

机器之心报道编辑:张倩、泽南为什么语言模型很成功,视频模型还是那么弱? 「我一直很困惑,语言模型怎么能从下一个 token 预测中学到这么多,而视频模型从...

🧠 解码大语言模型的记忆力:上下文长度的前世今生

在与ChatGPT、Claude等大语言模型对话时,你是否好奇:它们是如何记住我们之前的对话内容的?为什么有时它们能记住很长的对话,有时却会"失忆"?今...
1 … 471 472 473 474 475 … 834