即梦AI - 一站式AI创作平台

SignLLM:第一个多语种手语生成模型人工智能的应用

method.jpg

SignLLM,第一个多语种手语生成模型,可以将输入的文本或提示转化为相应的手语手势视频最新ai。SignLLM通过先进的aideeoseek技术生成和翻译grok4.1多种手语。SignLLM引入了首个多语言手语数据集,名为 Prompt2Sign,并基于此数据集开发了多种生成手语的模型。此数据集将大量视频转化为便于模型训练的格式,优化了如 seq2seq 和 text2text 等翻译模型的训练。基于这些数据集,我们展示了 SignLLM 的基准结果,表明我们的模型在八种手语的手语生成任务中达到了最先进的性能。

SignLLM受到在广泛的多语言文本语料库上训练的大型语言模型 (LLMs) 强大翻译能力的启发,我们的目标是利用现成的 LLMs 来处理 SLT。在本文中,我们对手语视频进行规范化以体现口语的语言特征,并提出了一种新颖的 SignLLM 框架,将手语视频转换为类似语言的表示形式,以提高现成的 LLMs 的可读性。 ai介绍

SignLLM 包含两个关键模块:扣子coze下载

1、矢量量化视觉符号模块将符号视频转换为一系列离散字符级符号标记。阿里大模型

2、代码本重建和对齐模块将这些字符级标记转换为单词级使用最佳传输公式进行符号表示。符号-文本对齐损失进一步弥合了符号和文本标记之间的差距,增强了语义兼容性。我们在两个广泛使用的 SLT 基准测试中取得了最先进的无光泽结果。ai介绍

SignLLM GITHUB地址:https://signllm.github.io/星流ai下载

收藏

相关文章扣子coze下载

阿里大模型
最新工具
Rita AI
Rita AI打开豆包打开豆包

GamsGo旗下的AI视频生成器,集成Seedance、Klin...ai未来十大趋势

DeepSeek Harness
DeepSeek Harness下载并安装豆包

DeepSeek开源的AI Agent工程框架,基 Cordis...ai智能工具有哪些

燃虫网
燃虫网ai智能工具有哪些

国内专业短视频素材下载平台,提供4K高清无水印视频素材、自媒体创...grok4.1

Renoise AI
Renoise AI说的al官方下载

一个集成了20多款主流模型的创作平台,支持Seedance、Kl...智谱ai开放平台

AI编标
AI编标ai介绍

一个面向标书制作人员、投标企业及标书代写机构的投标工具平台。它把...说的al官方下载

造剧
造剧大魔王ai工具下载

AI短剧、漫剧与短视频生成平台,支持剧本输入、小说转剧本、AI自...大魔王ai工具下载

FreeGPT.IM
FreeGPT.IM打开豆包打开豆包

基于GPT Image 2的免费AI图像生成工具,无需登录、无水...下一个豆包

PaperPure
PaperPureai工具有哪些软件

专业文稿优化平台,提供AIGC检测、AI降痕、智能降重、学术润色...大魔王ai工具下载

MimoCode
MimoCode密鸽(al)

小米开源的终端AI编程助手,MIT协议免费使用,内置百万Toke...grok4.1

Vivideo
Vivideo说的al官方下载

一款聚合30+AI视频模型的免费生成平台,支持文本、图像转视频、...阿里大模型