AI资讯

大模型推理服务调度优化技术-Continuous batching

近两年大模型火出天际；同时，也诞生了大量针对大模型的优化技术。本系列将针对一些常见大模型优化技术进行讲解。大模型推理优化技术-KV Cache大模型显存优化...

AI资讯

1年前 (2025)

近日，在2024 Inclusion·外滩大会“超越平面思维，图计算让AI洞悉复杂世界”见解论坛上，蚂蚁集团知识图谱负责人梁磊分享了“构建知识增强的专业智能体”相关工作...

AI资讯

1年前 (2025)

网易内部怎么用大模型？又怎么将大模型技术产品内生外化？‍‍‍‍‍‍‍‍今年以来，大模型已从去年的百模大战，转向行业落地竞赛。根据数智前线等的统计，大...

AI资讯

1年前 (2025)

AI大模型时代的到来，让很多企业都感受到了技术发展的魅力，但由于当前大环境，越来越多的企业对于IT的投入会更加谨慎，而根据过往经验，企业落地AI大模型确...

AI资讯

1年前 (2025)

作者 | 王亚平 1引言随着大模型在多模态理解、逻辑推理等方面的进一步发展，Agent 或将在 2025 年迎来大规模落地应用，替代人类自主解决越来越多的日常工...

AI资讯

1年前 (2025)

在人工智能不断进步的过程中，我们见证了能够写作、编程甚至创作艺术的模型。但有没有一种人工智能能够真正思考自己的思维？这就是Reflection 70B，HyperWrit...

AI资讯

1年前 (2025)

热点聚焦: 外滩大会丨凯文凯利、井贤栋、王坚等中外大咖共聚外滩大会主论坛在人工智能悄悄改写经济和文化规则的今天，凯文·凯利大胆预言了三大神秘趋势：全...

AI资讯

1年前 (2025)

2025年2月19日，国务院国资委召开中央企业“AI+”专项行动深化部署会，总结国资央企发展人工智能进展成效，研究部署下一步重点工作。会议强调，国资央企要抓住...

AI资讯

1年前 (2025)

“未来会有新的物种，它将是人类的延伸，然而终究是一个全新物种。” 文/腾讯新闻科技主笔张小珺编辑/马龙人人都谈论AGI，但未来AGI到底是一幅什么样的画面...

AI资讯

1年前 (2025)

在自然语言处理领域，语言模型的发展日新月异。随着对长文本处理需求的不断增加，能够高效生成长文本的语言模型变得至关重要。LongWriter 作为一款由清华大学...

AI资讯

1年前 (2025)