前沿科技
清华「算力魔术师」出手:一张 RTX4090D+382G 内存,让千亿大模型在宿舍跑出网吧速度!
示意图:当你的游戏显卡开始运行千亿参数大模型时 ? 暴论时刻:大模型推理即将进入'人均炼丹师'时代 '以前跑千亿模型就像开火箭——得找NASA批条子,现在清...
OpenAI全新发布o1模型 - 我们正式迈入了下一个时代。
大半夜的,OpenAI抽象了整整快半年的新模型。在没有任何预告下,正式登场。正式版名称不叫草莓,草莓只是内部的一个代号。他们的正式名字,叫:为什么取名叫o...
大招憋出来了!OpenAI发布最强推理模型o1,它真的会思考,但API比4o贵好几倍
OpenAI 的推理模型,也就是期待已久的 Strawberry 发布!9 月 13 日凌晨,OpenAI 宣布,正式发布一款 OpenAI o1-preview 的推理模型,同时发布的还有一个更小...
速递 | OpenAI o1草莓模型发布,这次真的更像人类了!
OpenAI 官方网站上发布了关于 OpenAI o1 系列模型的介绍。这个系列的模型旨在解决复杂问题,训练模型在回应之前花更多时间思考问题,类似于人类的思考方式。...
OpenAI o1 传说中的strawberry终于来了
前几天传的沸沸扬扬的 strawberry 草莓模型终于来了,OpenAI叫他o1。OpenAI o1 可以通过复杂的任务进行推理,并解决比以前的科学、编码和数学模型更难的...
大模型推理服务调度优化技术-Continuous batching
近两年大模型火出天际;同时,也诞生了大量针对大模型的优化技术。本系列将针对一些常见大模型优化技术进行讲解。大模型推理优化技术-KV Cache大模型显存优化...
蚂蚁自研知识增强大模型服务框架KAG,可显著提升知识推理准确率
近日,在2024 Inclusion·外滩大会“超越平面思维,图计算让AI洞悉复杂世界”见解论坛上,蚂蚁集团知识图谱负责人梁磊分享了“构建知识增强的专业智能体”相关工作...
网易ToB,一场大模型内生外化之战
网易内部怎么用大模型?又怎么将大模型技术产品内生外化?今年以来,大模型已从去年的百模大战,转向行业落地竞赛。 根据数智前线等的统计,大...
剖解企业AI大模型建设路径,提升未来核心竞争力
AI大模型时代的到来,让很多企业都感受到了技术发展的魅力,但由于当前大环境,越来越多的企业对于IT的投入会更加谨慎,而根据过往经验,企业落地AI大模型确...
智能体互联网(Agentic Web)
作者 | 王亚平 1引 言 随着大模型在多模态理解、逻辑推理等方面的进一步发展,Agent 或将在 2025 年迎来大规模落地应用,替代人类自主解决越来越多的日常工...