阿联酋技术创新研究所利用新架构革新人工智能语言模型

公司 文传商讯

经Hugging Face独立验证,Falcon Mamba 7B是全球性能第一的开源状态空间语言模型(SSLM)

SSLM的内存成本低,无需额外内存即可生成任意长文本块

Falcon Mamba 7B还优于传统的Transformer架构模型,如Meta的 Llama 3.1 8B和Mistral的7B

新模型体现了阿布扎比在人工智能研发领域的创新和开拓精神

阿联酋阿布扎比–(美国商业资讯)–技术创新研究所(TII)是全球领先的科研中心和阿布扎比先进技术研究理事会(ATRC)的应用研究支柱。该研究所发布了Falcon系列中的一款新的大型语言机型——Falcon Mamba 7B。经Hugging Face独立验证,新模型是全球性能第一的开源状态空间语言模型(SSLM)。

作为Falcon系列的首款SSLM,它有别于之前所有使用Transformer架构的Falcon模型。新的Falcon Mamba 7B模型是该研究所正在进行的开创性研究及其以开源形式向社区提供突破性工具和产品的又一例证。

ATRC秘书长兼阿联酋总统战略研究和先进技术事务顾问Faisal Al Bannai阁下表示:“Falcon Mamba 7B标志着TII连续第四次获得人工智能模型排名第一,巩固了阿布扎比作为全球人工智能研发中心的地位。这一成就彰显了阿联酋对创新的坚定承诺。”

在Transformer架构模型方面,Falcon Mamba 7B在HuggingFace新引入的基准测试中优于Meta的Llama 3.1 8B、Llama 3 8B和Mistral的7B。同时,在其他SSLM中,Falcon Mamba 7B在旧基准测试中击败了所有其他开源模型,它将成为HuggingFace新的更严苛基准测试排行榜上的第一款模型。

TII首席执行官Najwa Aaraj博士表示:“技术创新研究所继续通过Falcon系列人工智能模型突破技术发展的界限。Falcon Mamba 7B代表了真正的开创性工作,为未来的人工智能创新铺平了道路,这些创新将增强人类的能力并改善生活。”

状态空间模型在理解随时间演变的复杂情况(如一整本书的内容)方面表现极为出色。这是因为SSLM不需要额外的内存来消化如此大量的信息。

另一方面,基于Transformer的模型在记住和使用它们之前处理过的序列信息方面非常高效。这使它们在内容生成等任务中表现出色,然而,由于它们会将每个单词与其他单词进行比较,这就需要大量的计算能力。

SSLM可应用于各种领域,如估计、预测和控制任务。与Transformer架构模型类似,它们在自然语言处理任务中也有出色表现,可应用于机器翻译、文本摘要、计算机视觉和音频处理。

TII人工智能跨中心部门代理首席研究员Hakim Hacid博士表示:“在推出Falcon Mamba 7B之际,我为TII促进其发展的合作生态系统感到自豪。这次发布标志着我们向前迈出了一大步,启发了新的视角,进一步推动了对智能系统的探索。在TII,我们正在突破SSLM和Transformer模型的界限,以激发生成式人工智能领域的更多创新。”

Falcon LLM的下载次数已超过4500万次,证明了该模型的巨大成功。Falcon Mamba 7B将基于TII Falcon License 2.0发布。这是一种基于Apache 2.0的宽松软件许可证,包含一项促进人工智能负责任使用的可接受使用政策。如需了解有关这一新模型的更多信息,请访问FalconLLM.TII.ae。

*来源: AETOSWire

阿联酋技术创新研究所利用新架构革新人工智能语言模型(照片:AETOSWire)

技术创新研究所(TII):性能基准 -(信息图表:AETOSWire)

✽本文转载自互联网,请读者仅作参考,并自行核实相关内容(BW)。

旧金山--(美国商业资讯)--Andersen Consulting正通过与Exponential Digital Solutions (10xDS)的合作,持续打造其数字化咨询平台。10xDS是一家专注于AI驱动转型及新兴技术的公司。 1…
一季度净利润环比增长12.6%;订单总额达16亿美元,同比增长17% 印度孟买--(美国商业资讯)--技术咨询与数字化解决方案跨国公司LTIMindtree [NSE: LTIM, BSE: 540005]今天公布了经董事会批准的截至202…
全新探索功能助力投资者快速洞察市场趋势、对比企业并发现机会 康涅狄格州格林威治--(美国商业资讯)-- Interactive Brokers,全球自动化电子经纪商(纳斯达克股票代码:IBKR)宣布推出 Investment Themes,…
ANZUPGO(迪高替尼)乳膏现已成为FDA批准的美国首个且唯一的专用于治疗成人中重度慢性手部湿疹(CHE)的药物。1 全世界大约十分之一的成年人受到CHE的困扰,但在此之前,FDA尚未批准针对此类疾病患者的特定治疗药物。2,3 本次获批标…
  • 健康
  • 14小时前
  • 文传商讯
大模型领域前一阵有个刷屏新闻,现代知名音乐制作人Rick Rubin和Anthropic合作,对《道德经》做了个二创,通过改编老子的原文,写了部《编码之道》(The Way of Code),对AI编码这种新开发方式做了一次哲学诠释,受到社…
  • 科技
  • 1天前
  • 每日财经网
1Globe领导的激进董事会为误导股东的判断公然歪曲纽约法院的裁定,并蓄意隐瞒安提瓜法官上周五拒绝了其立即阻止Prime Success行使投票权的企图 香港--(美国商业资讯)-- Prime Success L.P.(连同其关联方,合称…
  • 公司
  • 6月23日
  • 文传商讯
纽约法院驳回尚珹资本/Prime 紧急禁令救济申请 为股息支付代理公司于2025年7月7日发放每股55.00美元特别现金股息扫清法律障碍 北京--(美国商业资讯)--中国领先的生物制药公司科兴控股生物技术有限公司(Sinovac Biote…
  • 公司
  • 6月23日
  • 文传商讯
—FDA批准的首个用于阿尔茨海默病患者评估的血液体外诊断检测方法— —推出精准、便捷的血液诊断检测将有助于开发和提供更有效的阿尔茨海默病干预措施— 宾夕法尼亚州马尔文和东京--(美国商业资讯)-- Fujirebio今日宣布,该公司的Lum…
  • 公司
  • 5月19日
  • 文传商讯