Product Design · AI Assisted

آیا دست‌های معنادار می‌توانند گفتار را بهتر کنند؟

در ارتباط انسانی، دست‌ها همزمان با کلمات حرکت می‌کنند و معنی می‌دهند. اما اکثر سیستم‌های هوش مصنوعی فقط حرکت‌های ساده‌ای تولید می‌کنند که فقط به ریتم صحبت می‌چسبند. این کار می‌پرسد آیا می‌توان دست‌های معنادار تولید کرد که با کلمات هم‌خوانی داشته باشند؟

· منبع: ACM Transactions on Interactive Intelligent Systems

چی کار کردند

آنها یک سیستم بدون آموزش قبلی ساخت که با دیدن یک تصویر و شنیدن متن، ویژگی‌های اشیاء را استخراج می‌کند و آن را با کلمات مطابقت می‌دهد. سپس با موتور حرکت، دست‌های نمادین و اشاره‌ای را تولید می‌کند و به همراه حرکت‌های ساده، یک گفتار همراه با دست می‌سازد.

چه پیدا کردند

آزمایش کاربری نشان داد که وقتی دست‌ها با محتوا هم‌خوانی داشتند، کاربران درک بهتر و سریع‌تری از پیام داشتند. در شرایطی که فقط گفتار بود، فهم کمتر بود.