گسترش نمایشگرهای مقرون به صرفه واقعیت مجازی تجربیات بصری سه بعدی واقع بینانه را در اختیار کاربران قرار می‌دهد. با این حال، نمایشگرهایی که روی سر سوار می‌شوند، قسمت بالای صورت کاربر را مسدود کرده و از تشخیص عملیات صورت در کل صورت جلوگیری می‌کنند. برای مقابله با این مسئله، لیجون یین، استاد علوم کامپیوتر بینگامتون و تیمش چارچوبی جدید ایجاد کردند که حرکات دهان را به عنوان واسطه برای تعامل در واقعیت مجازی به صورت بلادرنگ تفسیر می‌کند.
 
تیم یین برنامه را روی گروهی از دانشجویان فارغ التحصیل آزمایش کردند. هنگامی که یک کاربر نمایشگری که روی سر نصب می‌شود را می‌پوشید، یک بازی ساده‌ای ارائه می‌شد. هدف از این بازی هدایت پیکره‌ی بازیکن در اطراف یک جنگل و خوردن هر چه بیشتر کیک بود. بازیکنان مجبور بودند جهت حرکت خود را با استفاده از چرخش سر انتخاب کنند، با استفاده از حرکات دهان حرکت کنند و تنها با لبخند زدن می توانستند کیک را بخورند. این سیستم قادر به توصیف و طبقه بندی حرکات دهان کاربر بود و به میزان تشخیص صحیح بالایی دست یافت. این سیستم همچنین از طریق کاربری واقعیت مجازی بلادرنگ خود به نمایش در آمده و اعتبار سنجی شده است.
 
یین گفت: "ما امیدواریم که این مورد را برای بیش از یک نفر، شاید دو نفر، اعمال کنیم. به مصاحبه و ارتباط با اسکایپ فکر کنید." "تصور کنید که احساس می‌کنید که در همان فضای هندسی هستید، به صورت چهره به چهره، و برنامه رایانه‌ای می‌تواند به صورت کارآمد صورت‌های شما را به تصویر بکشد و آنها را تکرار کند تا واقعی به نظر برسد. "
 
اگر چه این فناوری هنوز در مرحله نمونه اولیه است، یین معتقد است که فناوری او در تعداد زیادی از زمینه‌ها قابل استفاده است.
 
یین گفت: "دنیای مجازی فقط برای سرگرمی نیست. برای مثال، بخش مراقبت‌های بهداشتی از واقعیت مجازی برای کمک به بیماران معلول استفاده می‌کند." "متخصصان پزشکی یا حتی پرسنل نظامی می‌توانند تمریناتی را پشت سر بگذارند که تجربه عملی آنها در زندگی واقعی امکان پذیر نیست. این فن آوری اجازه می‌دهد تا تجربه واقعی‌تر شود."
 
دانشجویان Umur Aybars Ciftci و زینگ ژانگ در این تحقیق نقش داشتند.
 
مقاله "تشخیص عملیات صورت وقتی که به طور جزئی مسدود شده است و تعامل در کاربردهای واقعیت مجازی" در کنفرانس بین المللی IEEE در مورد چندرسانه‌ای‌ها و نمایشگاه 2017 ارائه شد.
 

واقعیت مجازی چقدر قابل استفاده است؟

دانشمندان رایانه فرآیند خودکاری را برای درک، توسعه می‌دهند.
 
واقعیت مجازی بیشتر مناطق زندگی ما را درگیر می‌کند. بنا بر این مهم است که دنیای مجازی قابلیت استفاده بالایی را ارائه دهد. تاکنون، تنها راه برای انجام آزمایشات، هدایت آزمایشات با داوطلبان بوده است – که امری وقت گیر و پر هزینه است. یک فناوری جدید به طور خودکار بسیاری از مشکلات مربوط به کاربرپسندی و قابلیت استفاده را در محیط مجازی تشخیص می دهد.
 
واقعیت مجازی و دنیای مجازی بیشتر و بیشتر مناطق زندگی ما را در دست می‌گیرد. این بدان معنی است که واقعاً مهم است که دنیای مجازی کاربرپسند باشد و قابلیت استفاده بالایی را ارائه دهد. تاکنون تنها راه بررسی این موضوع، انجام تست‌های دستی با داوطلبان بوده است. این می‌تواند هم وقت گیر و هم پر هزینه باشد. دکتر پاتریک هارمز از انستیتوی علوم کامپیوتر در دانشگاه گوتینگن فناوری ای را توسعه داده است که به طور خودکار بسیاری از مشکلات مربوط به کاربرپسندی و قابلیت استفاده در محیط مجازی را تشخیص می‌دهد. نتایج به دست آمده در ژورنال علمی "معاملات ACM در تعامل رایانه و انسان" قابل مشاهده است.
 
دکتر هارمز دو سناریوی مجازی را برای آزمایش فن آوری جدید خود انتخاب کرد: در "صحنه قهوه"، کاربر مجبور بود برود و  یک فنجان را بیاورد، و آن را دقیقاً زیر یک دستگاه قهوه قرار دهد و دکمه مناسب را فشار دهد. در سناریوی مجازی دیگر، کاربر لازم بود یک تکه کاغذ را کپی کند. فناوری جدیدِ ارزیابی خودکار در سه مرحله انجام می‌شود. ابتدا فعالیت‌های فردی و حرکات افراد آزمون با جزئیات ثبت می‌شود. دنیای مجازی فقط برای سرگرمی نیست. برای مثال، بخش مراقبت‌های بهداشتی از واقعیت مجازی برای کمک به بیماران معلول استفاده می‌کند. این منتج به تهیه "لیست‌هایی از فعالیت‌ها" می‌شود. در مرحله دوم، برنامه رایانه‌ای MAUSI-VR که توسط دکتر هارمز تهیه شده است، به طور خودکار این لیست‌ها را برای رفتار معمولی کاربر جستجو می‌کند. در مرحله سوم، این رفتار با توجه به بی نظمی‌های تعریف شده توسط برنامه ارزیابی می‌شود. هارمز می‌گوید: "این امر باعث می‌شود تا از جمله موارد دیگر، مشخص کنیم که چطور کاربران یک فضای مجازی خاص از طریق آن هدایت می شوند و آیا آنها معمولاً باید در طی عملکرد خود روش‌های ناخوشایند ارگونومیکی انجام دهند." علاوه بر این، این برنامه مشکلات تعاملی‌ای را تشخیص می‌دهد که باعث می‌شود کاربران چندین بار فرآیندهای خاصی را تکرار یا آنها را رها کنند.
 
مفهوم MAUSI-VR مبتنی بر کار اولیه گروه تحقیقاتی "مهندسی نرم افزار برای سیستم های توزیع شده" به سرپرستی پروفسور جنس گرابوفسکی، مؤسسه علوم کامپیوتر در دانشگاه گوتینگن، است که در مورد ارزیابی قابلیت استفاده خودکارآمدیِ وب سایت‌ها و نرم افزارهای رومیزی است. این اثر به دنیای مجازی منتقل شده و توسط هارمس تکمیل شده است. "بر خلاف ارزیابی دستی، ارزیابی خودکار می‌تواند به صورت مکرر، مقرون به صرفه‌تر و بدون لزوم آماده سازی ویژه چه در زمان توسعه واقعیت مجازی و چه بعد از توزیع آن در بازار انجام شود. این به توسعه دهندگان فرصت می‌دهد تا پیشرفت‌های واقعیت مجازی را سریعاً تا به روز رسانی نرم افزار بعدی در نظر بگیرند. "
 
در پایان اشاره‌ای می‌شود به کاربرد فناوری واقعیت مجازی در کنترل روبات‌ها از راه دور. پژوهشگران آزمایشگاه هوش مصنوعی و علوم کامپیوتر CSAIL یک سامانه‌ی واقعیت مجازی (VR) طراحی کرده‌اند که با کمک آن می‌توان روبات‌ها را ار راه دور کنترل کرد. در این پروژه از هدست واقعیت مجازی Oculus Rift استفاده شده است. جفری لیپتون (Jeffrey Lipton) نویسنده‌ی اصلی مقاله‌ای در همین زمینه معتقد است که روزی می‌توان روبات‌ها را از راه دور کنترل کرد.
 
منبع: دانشگاه بینگامتون و دانشگاه گوتینگن