腾讯网

时隔6年，谷歌BERT终于有替代品了！更快更准更长，还不炒作GenAI

真正有用的主力模型。 BERT 于 2018 年发布，这个时间点，如果按照 AI 的纪事年代来说，可以说是一千年以前的事了！虽然过去了这么多年，但至今仍被广泛使用：事实上，它目前是 HuggingFace 中心下载量第二大的模型，每月下载量超过 6800 万次。 好消息是，六年 ...
腾讯网

谷歌训练BERT只要23秒，华为AI训练芯片首次亮相，MLPerf出炉

今天，人工智能行业权威“跑分”MLPerf训练v0.7出炉，这是该跑分推出以来第三次放榜。 英伟达刚发布的A100 GPU、谷歌即将推出的TPUv4，两个冤家的AI芯片性能孰强孰弱，在这份榜单里都能看到。 除了两家AI巨头相争，此次也是中国芯片首次在榜单中亮相，来自 ...
生物通

基于 BERT 的位置嵌入与零样本学习在分子性质预测中的创新突破

为解决化学信息学中处理复杂分子关系编码及提高分子性质预测准确性的问题，研究人员开展了利用 BERT 模型探索位置嵌入（PEs）用于分子性质预测的研究。结果表明不同 PEs 各有优势，在多任务中表现良好。该研究为化学和生物信息学提供了新方法12。 在药物 ...
来自MSN

Hugging Face / 英伟达联手推出 ModernBERT 模型

IT之家 12 月 29 日消息，Hugging Face、英伟达和约翰霍普金斯大学研究人员联手为 Hugging Face 上的热门编码器模型 BERT 推出了全新版本 ModernBERT，号称在满足效率的同时新增支持处理长达 8192 个 Token 的上下文。 开发团队表示，尽管 BERT 模型自 2018 年发布以来仍被业界 ...
来自MSN

现代BERT模型震撼发布，挑战2018年经典版，下载榜第二名地位即将改写？

标题：现代BERT模型震撼发布，挑战2018年经典版，下载榜第二名地位即将改写 随着人工智能技术的飞速发展，自然语言处理（NLP）领域也取得了显著的进步。其中，BERT模型作为一款热门编码器模型，自2018年发布以来一直被业界广泛使用，是Hugging Face上下载量第 ...