您现在的位置是:热点 >>正文
Tilde AI 发布开源 TildeOpen LLM:支持多种欧洲语言的超大语言模型
热点1595917人已围观
简介...
Latvian 语言技术公司 Tilde 于2025年9月3日发布了 TildeOpen LLM,这是一个开源的基础大语言模型(LLM),旨在支持欧洲语言,Ti特别是那些较少被代表的国家和地区语言。这一举措标志着欧盟在语言公平和数字主权方面迈出了重要的一步。
TildeOpen LLM 是一个拥有300亿参数的稠密解码器ld模型,采用了 CC-BY-4.0的宽松许可证,能够支持从拉脱维亚语、立陶宛语到乌克兰语、土耳其语等多种语言。该模型的训练是在欧洲的超级计算机 LUMI(芬兰e )和 JUPITER 上进行的,使用了欧盟委员会的大型人工智能大奖挑战赛所提供的200万 GPU 小时的计算资源。
在技术细节方面,TildeOpen LLM 通过AI受 EleutherAI 启发的 GPT-NeoX 脚本进行训练,共进行了45万次更新,使用了约2万亿个令牌。其训练过程包含三阶段采样:首先在语言间均匀分布,其 发次是对高数据量语言的自然分布进行增强,最后再进行均匀的扫查以确保平衡。模型的超参数包括60层、嵌入维度6144、48个注意力头、8192-token 的上布开下文窗口,以及使用 SwiGLU 激活、RoPE 位置编码和 RMSNorm 层规范化。
在语言公平和数据主权方面,传统的主流模型往往侧重于英语和其他主要语言源 ,导致在处理波罗的海、斯拉夫及其他较小的欧洲语言时表现不佳,常常出现语法错误和奇怪的措辞。而 TildeOpen 通过引入 “公平的标记器”,使得不同语言的文Ti本以相似方式进行表示,从而减少标记数量,提高较少代表语言的推理效率。此外,组织可以选择在本地数据中心或符合欧盟要求的安全云中自我托管,确保遵循 GDPldR 及其他数据保护法规,从而解决了与美国或亚洲托管模型相关的主权问题。
TildeOpen 作为基础模型,预计会推出更多专门化版本,例如经过指令调优的翻译模型eO,这将进一步增强其功能。拉脱维亚通过 Tilde 的努力,期望在全球科技领域占据一席之地,同时致力于保护语言多样性。
huggingface:https://hpeuggingface.co/TildeAI/TildeOpen-30b
技术:https://tilde.ai/lv/tildeopen-llm/
划重点n :
TildeOpen LLM 是一个支持多种欧洲语言的开源大语言模型,特别关注小型国家语言的代表性。
模型LL训练利用了欧洲超级计算机资源,采用先进的三阶段采样技术,确保不同语言的平衡性和公平性。
组织可自我托管该模型,符合 GDPR 等数据M:保护法规,提升数据主权的保障。
Tags:
相关文章
标签: 曦诺未来 XynovaFlex1 具身智能 灵巧手
热点云梦级3月20日云梦级消息,近日,杭州灵巧手企业曦诺未来完成了数亿元Pre-A轮融资,本轮融资由某头部互联网大厂领投,财通资本、毅达资本、浙大友创等财务投资机构和三七互娱、杭州数据集团等产业投资机构跟...
【热点】
阅读更多教你使用TensorFlow2判断细胞图像是否感染
热点在本教程中,我们将使用 TensorFlow (Keras API) 实现一个用于二进制分类任务的深度学习模型,该任务包括将细胞的图像标记为感染或未感染疟疾。 数据集来源:https://www.ka...
【热点】
阅读更多标签: 宝马集团 MINI 劳斯莱斯 纯电动汽车
热点云梦级3月12日云梦级消息,宝马集团今日发布 2025 年财务业绩,实现了其 2025 年的业务目标,全年报告收入为 1334.53 亿欧元(现汇率约合 1.06 万亿元人民币),同比下降 6.3%。...
【热点】
阅读更多
热门文章
最新文章
友情链接
- 标签: 康师傅
- https://www.miamiopenmri.com/?action=CHECK&s=谷歌霸屏技术【tg:seogoogle987】,CF5
- https://www.tcv.org.uk/search/谷歌霸屏技术【tg:seogoogle987】,kIb
- https://www.seagrant.wisc.edu/?page=63&s=谷歌霸屏技术【tg:seogoogle987】,rvq
- https://www.military-history.org/?s=谷歌霸屏技术【tg:seogoogle987】,oTZ
- https://www.normani.de/search?q=谷歌霸屏技术【tg:seogoogle987】,n9D
- https://www.niaogebiji.com/pc/article/search?keyword=谷歌霸屏技术【tg:seogoogle987】,dUT
- https://www.hanbat.ac.kr/search/front/Search.jsp?qt=谷歌霸屏技术【tg:seogoogle987】EZZ
- https://www.youm7.com/Home/Search?allwords=谷歌霸屏技术【tg:seogoogle987】,Rim
- https://www.goodreads.com/quotes/tag/谷歌霸屏技术【tg:seogoogle987】s7D
- https://www.world-architects.com/en/search?term=谷歌霸屏技术【tg:seogoogle987】,LX8
- https://www.dba.dk/soeg/?soeg=谷歌霸屏技术【tg:seogoogle987】ZHW
- https://www.so.com/s?ie=utf-8&src=360sou_home&_re=0&q=谷歌霸屏技术【tg:seogoogle987】,HBi
- https://www.skicheck.at/en/?action=CHECK&s=谷歌霸屏技术【tg:seogoogle987】,Nuu
- https://www.youtube.com/results?search_query=谷歌霸屏技术【tg:seogoogle987】,3KO
- https://www.tahiti-infos.com/search/谷歌霸屏技术【tg:seogoogle987】,Fan
- https://store.line.me/search/sticker/ja?q=谷歌霸屏技术【tg:seogoogle987】gyp
- https://www.roberthalf.com/us/en/jobs/all/谷歌霸屏技术【tg:seogoogle987】6ye
- https://www.realsporting.com/buscador?buscar=谷歌霸屏技术【tg:seogoogle987】,Q5C
- https://www.televes.com/es/catalogsearch/result/?q=谷歌霸屏技术【tg:seogoogle987】,1bJ
- https://www.lechzuers.com/de/search?cat=163&q=谷歌霸屏技术【tg:seogoogle987】,fXQ
- https://www.teamlab.art/fr/?submit=谷歌霸屏技术【tg:seogoogle987】,QYd
- https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=谷歌霸屏技术【tg:seogoogle987】,eip
- https://www.rockngem.com/?action=CHECK&s=谷歌霸屏技术【tg:seogoogle987】,rmi
- https://m.shoppinghow.kakao.com/m/search/q/谷歌霸屏技术【tg:seogoogle987】zDZ
- https://www.supersauna.de/catalogsearch/result/?q=谷歌霸屏技术【tg:seogoogle987】,uYI
- https://www.lee.com/search?q=谷歌霸屏技术【tg:seogoogle987】,Nut
- https://www.roblox.com/discover/?cat=107&Keyword=谷歌霸屏技术【tg:seogoogle987】,r6V
- https://www.qidulp.com/search?query=谷歌霸屏技术【tg:seogoogle987】,JHT
- https://www.unclefossil.com/search/谷歌霸屏技术【tg:seogoogle987】,Mdx
- https://www.zisha.com/shop/list.shtml?wap_keyword=谷歌霸屏技术【tg:seogoogle987】,Nec
- https://www.pinkpanda.ro/magazin/ingrijirea-tenului?page=87&q=谷歌霸屏技术【tg:seogoogle987】,OnJ
- https://www.silentiumpc.com/en/search/谷歌霸屏技术【tg:seogoogle987】,YPT
- https://www.flickr.com/photos/tags/谷歌霸屏技术【tg:seogoogle987】0jM
- https://www.mynextmove.org/find/search?s=谷歌霸屏技术【tg:seogoogle987】,6XT
- https://www.lauben.com/de/?s=谷歌霸屏技术【tg:seogoogle987】,qVo
- https://www.toy-people.com/?s=谷歌霸屏技术【tg:seogoogle987】,Ag6
- https://www.vietnamconsulate-sf.org/?action=CHECK&s=谷歌霸屏技术【tg:seogoogle987】,Q45
- https://www.jusoen.com/addreng.asp?p1=谷歌霸屏技术【tg:seogoogle987】QzW
- https://www.thealexandrian.net/?s=谷歌霸屏技术【tg:seogoogle987】,f6T
- https://www.universal-music.co.jp/?ID=1sIcckCTeBS8FjzCshAW9w53s8gr691o&s=谷歌霸屏技术【tg:seogoogle987】,eWM
- https://www.roberthalf.com/us/en/jobs/all/谷歌霸屏技术【tg:seogoogle987】gl2
- https://www.sensorshop24.de/catalogsearch/result/index/?type=132&q=谷歌霸屏技术【tg:seogoogle987】,wAd
- https://www.rhymezone.com/r/rhyme.cgi?typeofrhyme=oldrel&loc=nojs&Word=谷歌霸屏技术【tg:seogoogle987】,kHd
- https://www.tombow.com/en/search/谷歌霸屏技术【tg:seogoogle987】,Csg
- https://www2.ual.es/ProyectoLates/?s=谷歌霸屏技术【tg:seogoogle987】,9s6
- https://www.luxurysociety.com/en/search?q=谷歌霸屏技术【tg:seogoogle987】,7hR
- https://www.openspaceinstitute.org/search?q=谷歌霸屏技术【tg:seogoogle987】,g36
- https://www.revere.org/search?action=SEARCH&q=谷歌霸屏技术【tg:seogoogle987】,91k
- https://xn--lgernevedlystskoven-lxb.dk/search/谷歌霸屏技术【tg:seogoogle987】,qxZ
- https://www.yidian51.com/taobao/谷歌霸屏技术【tg:seogoogle987】,kZ6