开发中 LipScribe 仍处于早期试验阶段:读唇模型仍在训练中,很多词会读错。请用它了解大意,并核对每个词。
这是 LipScribe 在无声状态下对这段视频的真实读唇结果(英语)。视频:《The Standard Model》, Fermilab,CC BY 3.0(已剪辑、裁切并去除声音)。
LipScribe 会找出视频中的人脸,跟踪说话人的嘴部,并用完全在浏览器中运行的 AI 模型读取唇语。你会得到一份带时间戳的文字稿,其中每个词都标明了正确的概率。可读取英语视频,西班牙语为测试版。不上传任何内容。免费。
每种说话语言都有自己的读唇模型(英语 169 MB,西班牙语 169 MB),只在你第一次使用该语言时下载到浏览器一次并缓存,之后 LipScribe 可以离线运行。一切都在你自己的处理器上完成——你的视频哪儿也不去。
来自手机或电脑的 MP4、MOV 或 WebM——一个或多个片段都可以。视频在浏览器标签页中打开,不会发送到任何地方。
自动查找人脸并在整个片段中跟踪。画面中有多人时,点按你想要的那位;应用会准确显示它正在读取哪张嘴。
带时间戳的句子,每个词按其正确概率着色。点按一个词,看看它还可能是什么。可导出 TXT、SRT、VTT 字幕,或包含所有候选项的 JSON。
许多发音在嘴唇上看起来一模一样——英语中的 “pat”、“bat” 和 “mat” 口型相同——即使是训练有素的读唇者也会漏掉很多。因此,LipScribe 不假装完美:每个词都有一个概率,你还能看到其他可能的读法。请期待大意,而不是逐字记录。以下数据测自我们的测试集:67 个真实视频片段,共 60 分钟。
Thank you all for coming tonight
读唇之前,应用会检查人脸大小、头部转向、检测覆盖率和帧率,并在片段可能难以读取时提醒你。
“我们不会上传你的视频”是每个服务都会做出的承诺。LipScribe 的设计让你不必凭信任接受它:
Network 标签页。读取一个片段——你会看到模型被下载到你这里,而没有任何内容发出去。关着麦克风录的视频,或分享时没有声音:大致了解说话人说了什么。
风声、车流、音乐或人群盖过了说话声。噪音影响不到嘴唇,嘴唇依然承载着话语。
当你自己的录像没有可用音轨时,生成字幕草稿——用来修改的起点,而不是成品字幕。
声音已经丢失或从未录下的家庭录像和档案胶片,在你自己的电脑上读取。
请负责任地使用:用于你自己拍摄或有权处理的视频,并尊重画面中的人。
不会。你的浏览器打开文件,AI 模型在浏览器内存中运行,导出时文字稿保存到你的下载文件夹。整个过程没有服务器参与:即使我们想看你的视频也做不到。
暂时不能。目前可读英语,西班牙语为测试版。读唇前在应用中选择“视频中的语言”——它与界面语言(中文、英语、西班牙语、德语或法语)相互独立。目前西班牙语的准确度略低于英语。
在各类真实的英语视频片段上,大约三个词能读对两个;对于清晰、正对镜头的录音室说话人,大约 85%。西班牙语(测试版)约为 65%。结果很大程度上取决于素材,因此每个词都带有概率,你也能看到每个词和每句话的其他可能读法。请期待大意而不是逐字稿;人名、数字和生僻词尤其困难。
每个词的百分比表示它正确的概率,根据模型在该词附近看到的内容估算。白色的词很可能正确(80% 以上),琥珀色的词不确定,带下划线的珊瑚色词存疑(低于 50%)。每句话的读法显示概率在解码器保留的各读法之间如何分配。在我们的测试集中,显示为 80–100% 的词约有 93% 是对的。
一位正对镜头的人,脸足够大,光线好,25–30 fps。较新的浏览器都支持 MP4、MOV 和 WebM。画面中有多人也没关系——由你选择读谁的唇语。
第一次读取某种语言时,浏览器会下载该语言的读唇模型(英语 169 MB,西班牙语 169 MB)并缓存。之后会立即启动,离线也可以。在笔记本电脑的 CPU 上,读唇速度约为实时的 1.6 倍——1 分钟的片段大约需要 40 秒;手机和较旧的电脑需要数倍时间。
免费。它使用的开源读唇模型(英语用 Auto-AVSR,西班牙语用 ViSpeR)仅授权用于研究和非商业用途,因此 LipScribe 也是如此:个人、教育和研究用途没有问题;商业用途需要用版权清晰的视频训练的模型。如果 LipScribe 帮到了你,欢迎随意捐助。