Mistral AI 开源 Mistral 8x22B Moe 大模型

MistralAI开源Mistral8x22BMoe大模型MistralAI公司刚刚再次用磁力链接开源了一款大模型Mistral8x22B，模型文件大小为281.24GB。从模型的名字来看，Mistral8x22B是去年开源的「mixtral-8x7b」的超级大杯版本，参数规模增长三倍不止，由8个220亿参数规模(8×22B)的专家网络组成。磁力链接地址：magnet:?xt=urn:btih:9238b09245d0d8cd915be09927769d5f7584c1c9&dn=mixtral-8x22b&tr=udp%3A%2F%2Fopen.demonii.com%3A1337%2Fannounce&tr=http%3A%2F%2Ftracker.opentrackr.org%3A1337%2Fannounce——、

Mistral AI 开源 Mistral 8x22b 模型

MistralAI开源Mistral8x22b模型疑似Mistral8x22b的MixtralMedium在最新的lmsys竞技场中位列世界第11，为最强开源模型之一。此举突然发布可能和另一开源模型CommandR+有关，CommandR+在4月4日横空出世，截至昨日位列第6。线索：@ZaiHuabot投稿：@TNSubmbot频道：@TestFlightCN

Mistral 宣布最新开放大模型 Mixtral 8x22B

Mistral宣布最新开放大模型Mixtral8x22B法国AI创业公司Mistral宣布了其最新的开放大模型，公布的测试显示它是目前最先进的开放模型。Mistral称8x22B是真正开放的模型，使用Apache2.0许可证，允许任何人不受限制的使用。它是一种稀疏Mixture-of-Experts(SMoE)模型，有1410亿参数，但活跃参数仅为390亿，在其规模下提供了无与伦比的成本效率。Mixtral8x22B的优点包括：精通英语、法语、意大利语、德语和西班牙语，具有强大的数学和编码能力，原生能函数调用，64K令牌上下文窗口。来源，频道：@kejiqu群组：@kejiquchat

英伟达开源 3400 亿参数模型 Nemotron-4 340B

英伟达开源3400亿参数模型Nemotron-4340B当地时间6月14日，英伟达开源Nemotron-4340B（3400亿参数）系列模型。据英伟达介绍，开发人员可使用该系列模型生成合成数据，用于训练大型语言模型(LLM)，用于医疗保健、金融、制造、零售和其他行业的商业应用。Nemotron-4340B包括基础模型Base、指令模型Instruct和奖励模型Reward。英伟达使用了9万亿个token（文本单位）进行训练。Nemotron-4340B-Base在常识推理任务，如ARC-c、MMLU和BBH基准测试中，可以和Llama-370B、Mixtral8x22B和Qwen-272B模型媲美。

【英伟达开源Nemotron-4340B系列模型，用于训练LLM】近日，英伟达开源Nemotron-4340B（3400亿参数）

【英伟达开源Nemotron-4340B系列模型，用于训练LLM】近日，英伟达开源Nemotron-4340B（3400亿参数）系列模型。开发人员可使用该系列模型生成合成数据，用于训练大型语言模型(LLM)，用于医疗保健、金融、制造、零售和其他行业的商业应用。Nemotron-4340B包括基础模型Base、指令模型Instruct和奖励模型Reward。英伟达使用了9万亿个token（文本单位）进行训练。Nemotron-4340B-Base在常识推理任务，如ARC-c、MMLU和BBH基准测试中，可以和Llama-370B、Mixtral8x22B和Qwen-272B模型媲美。

IBM宣布在watsonx上提供开源Mistral AI模型

IBM宣布在watsonx上提供开源MistralAI模型这有可能将延迟时间缩短35-75%，具体取决于批量大小--加快洞察时间。这是通过一个称为量化的过程实现的，该过程减少了LLM的模型大小和内存需求，反过来又能加快处理速度，有助于降低成本和能耗。Mixtral-8x7B的加入扩展了IBM的开放式多模型战略，以满足客户的需求，为他们提供选择和灵活性，从而在其业务中扩展企业人工智能解决方案。通过数十年的人工智能研发、与Meta和HuggingFace的开放合作以及与模型领导者的合作，IBM正在扩展其watsonx.ai模型目录，并引入新的功能、语言和模式。IBM的企业就绪基础模型选择及其watsonx人工智能和数据平台可以帮助客户利用生成式人工智能获得新的洞察力和效率，并基于信任原则创建新的业务模式。IBM可帮助客户为金融等目标业务领域的正确用例和性价比目标选择正确的模型。Mixtral-8x7B采用了稀疏建模（一种创新技术，只查找和使用数据中最重要的部分，以创建更高效的模型）和专家混合技术（Mixture-of-Experts）的组合，后者将擅长并解决不同部分问题的不同模型（"专家"）结合在一起。Mixtral-8x7B模型因其能够快速处理和分析海量数据，提供与背景相关的见解而广为人知。IBM软件公司产品管理与增长高级副总裁KareemYusuf博士说："客户要求有选择性和灵活性，以便部署最适合其独特用例和业务要求的模型。通过在watsonx上提供Mixtral-8x7B和其他模型，我们不仅为他们提供了部署人工智能的可选性，还为人工智能构建者和业务领导者提供了一个强大的生态系统，使他们能够利用工具和技术推动不同行业和领域的创新。"本周，IBM还宣布在watsonx上提供由ELYZA公司开源的日本LLM模型ELYZA-japanese-Llama-2-7b。IBM还在watsonx上提供Meta的开源模型Llama-2-13B-chat和Llama-2-70B-chat以及其他第三方模型，未来几个月还将提供更多。...PC版：https://www.cnbeta.com.tw/articles/soft/1422447.htm手机版：https://m.cnbeta.com.tw/view/1422447.htm