前沿科技
Manus产品合伙人张涛最新分享
以下内容来自Manus产品合伙人张涛上周在葡萄牙里斯本Web Summit 的分享。视频链接:https://www.bilibili.com/video/BV1uYCgBXEu3这里分享一个看这类宣讲性质...
oLLM 如何在 8GB 3060 Ti 上实现 100k 上下文推理?
在本地运行大语言模型(LLM)曾是高端玩家的专属游戏。动辄几十 GB 的显存需求,让普通开发者望而却步。但现在,一款名为 oLLM 的轻量级 Python 库...
将导游装在口袋里:AI 对景区游览新赋能
清晨的阳光透过古老的窗棂,洒在海昏侯国遗址博物馆的展柜上,金色的饼形器在光影交错中泛着神秘的光芒。一位年轻的母亲带着孩子驻足于此,孩子抬起头,眼睛...
上下文工程 (Context Engineering)
引言著名AI专家 Andrej Karpathy 曾将大型语言模型(LLM)比作一种新型操作系统,其中LLM是CPU,而其上下文窗口(Context Window)则是RAM。正如操作系...
灵宇宙获2亿新融资,要做AI世界操作系统
「暗涌Waves」获悉,灵宇宙近日完成2亿元PreA轮融资,由上海国际集团旗下国方创新、国泰海通、广发信德、滴滴出行、拉卡拉旗下考拉基金、润建股份等金融机构...
AI教父20年前就揭示了:压缩即学习,压缩即智能
AI教父20年前就揭示了:压缩即学习,压缩即智能为什么有些歌你听几遍就腻了?为什么你第一眼看到某张脸会觉得“美”?为什么科学和艺术,都在不约而同地追求“简...
Prompt:马斯克AI分身
读书不如读人。Prompt 写方法,不如写人。书只给你概念;人给你维度。从书里,看到马斯克的“第一性原理”;从读人开始,才看到他如何质疑一切、删除噪音、倒推...
实践用Ollama本地部署DeepSeek-R1模型,总算搞清楚了联网搜索RAG是怎么回事
最近在研究大模型的落地应用,在本地使用2张GPU显卡部署了一套DeepSeek-r1模型,并搭配了Page Assist作为web ui。由于deepseek模型信息最新更新时间是到2023...
ChatGPT「群聊」功能正式开启内测
刚刚,OpenAI发布新功能,正式开始在部分地区试点ChatGPT群聊。现在,你可以将朋友、家人或同事拉入到同一个对话中,与ChatGPT一起聊天了目前,群聊功能已开...
vLLM× 魔搭社区,一文学会 Windows 本地部署大模型
之前的一篇文章我们介绍了如何在Windows上通过Ollama和魔搭社区快速部署本地的大模型:Ollama × 魔搭社区:超简单的大模型本地部署方案我看到有些小伙伴在评...