微软开源 1.58bit 推理框架:千亿参数模型量化后单 CPU 可跑,速度每秒 5-7 个 token 微软发布了一款新的大规模模型推理框架!现在,经过量化处理后,千亿参数的大型模型可以在单个CPU上运行,速度每秒可达5-7个标记。比如,在苹果 M2新品上运行BitNet b1.58 3B模型,效果如下:就是今年... news 2024-10-25 00:01 0 4122
全球首次:时序大模型突破十亿参数,华人团队 Time-MoE 预训练数据达 3000 亿个时间点 Time-MoE采用创新混合专家架构,可实现高精度预测且计算成本低。同时,研发团队发布了Time-300B数据集,提供丰富训练资源,为不同领域的时间序列预测任务提供新解决方案。在数据驱动时代,时序预测成为各领域... news 2024-10-25 00:00 0 32391
多智能体才是未来,谷歌、OpenAI 齐下场争抢 AGI 人才 最近 OpenAI 和谷歌发布了多智能体招聘信息,预示着 AI 发展的新阶段。两年前,OpenAI 推出的 ChatGPT 让人工智能领域的 LLM 受到广泛关注。随后,各大科技公司纷纷推出自己的 LLM,初创... news 2024-10-25 00:00 0 98429
黄仁勋:我从不在乎市场份额,英伟达唯一目标是创造新市场 “这次采访真是令人印象深刻!”英伟达 CEO 黄仁勋最新的炉边谈话再次引起关注:英伟达一直专注于创新,并未关注市场份额。面对 Azure 和 AWS 等云计算巨头自主构建 ASIC 芯片,黄总用一个比喻表达了公... news 2024-10-25 00:00 0 160
全球首次:时序大模型突破十亿参数,华人团队 Time-MoE 预训练数据达 3000 亿个时间点 Time-MoE采用了创新的混合专家架构,能够以较低的计算成本实现高精度预测。研发团队还发布了Time-300B数据集,为时序分析提供了丰富的训练资源,为各行各业的时间序列预测任务带来了新的解决方案。在当今以数... news 2024-10-24 23:59 0 88063
开源版 OpenAI 再出神作:小模型吊打 Meta Llama 3,Ministral 系列开启边缘 AI 革命 Mistral 7B发展至一周年,法国 AI 初创企业Mistral再次推出两款轻量级模型Ministral 3B和Ministral 8B,性能超越Llama 3 8B。Mistral 7B仅发布一年,法国A... news 2024-10-24 23:56 0 99531