O introducere în tehnologia Intel RealSense pentru dezvoltatorii de jocuri

Tehnologia Intel RealSense împerechează o cameră 3D și o matrice de microfon cu un kit SDK care vă permite să implementați urmărirea gestuală, scanarea 3D, analiza expresiei feței, recunoașterea vocii și multe altele. În acest articol, mă voi uita la ce înseamnă acest lucru pentru jocuri și explicați cum puteți începe să îl utilizați ca dezvoltator de jocuri.

Ce este Intel RealSense?

RealSense este proiectat în jurul a trei periferice diferite, fiecare conținând o cameră 3D. Două sunt destinate utilizării în comprimate și alte dispozitive mobile; al treilea - F200 cu fața în față - este destinat utilizării în notebook-uri și desktop-uri. Mă voi concentra asupra celor din urmă în acest articol.

F200 este deja inclus într-un număr de notebook-uri diferite, precum și alte câteva dispozitive și va fi disponibil în curând ca periferic USB autonom. (Puteți deja comanda sau rezerva o versiune kit dev pentru aproximativ 100 $.)

Se compune din:

  • O cameră color convențională (1080p, 30fps)
  • Un proiector laser cu infraroșu și o cameră foto (640x480, 60fps)
  • O matrice de microfon (cu capacitatea de a localiza sursele de sunet în spațiu și de a anula zgomotul de fundal)

Proiectorul cu infraroșu și aparatul de fotografiat pot recupera informații de adâncime pentru a crea un model 3D intern indiferent de modul în care este orientată aparatul foto; informațiile de culoare de la camera convențională pot fi apoi folosite pentru a colora acest model.

Aplicația SDK simplifică utilizarea capabilităților camerei în jocuri și alte proiecte. Acesta include biblioteci pentru:

  • Mână, deget, cap, și urmărirea feței
  • Expresia facială și analiza gesturilor
  • Recunoașterea vocală și sinteza vorbirii
  • Realitate augmentată
  • Captarea obiectelor 3D și a capului
  • Înlăturarea automată a fundalului

Rețineți că, pe lângă faptul că vă permite să urmăriți, de exemplu, poziția nasului cuiva sau vârful indicelui drept în spațiul 3D, RealSense poate detecta, de asemenea, mai multe gesturi și expresii încorporate, cum ar fi:

Deci, în loc să scrieți codul pentru a verifica dacă colțurile gurii jucătorului sunt curbate în sus și deducând dacă zâmbesc sau nu, puteți doar să încercați biblioteca RealSense pentru gestul "zâmbet".

Ce RealSense aduce la jocuri

Iată câteva exemple despre modul în care RealSense poate fi (și este folosit) în jocuri:

Nevermind, un joc de groază psihologic, utilizează RealSense pentru biofeedback: măsoară ritmul cardiac al jucătorului folosind camera 3D și apoi reacționează la nivelul de frică al jucătorului. Dacă vă pierdeți răcoarea, jocul devine mai greu!

MineScan, de voidALPHA, este o dovadă a conceptului care vă permite să scanați obiecte din lumea reală (cum ar fi animalele umplute) în Minecraft. Orice joc 3D PC cu accent pe moduri sau personalizare ar putea folosi capabilitățile de scanare ale camerei RealSense pentru a permite jucătorilor să introducă în joc propriile obiecte (sau chiar ele însele).

Faceshift utilizează în mod real RealSense pentru detectarea mișcărilor. Această tehnologie ar putea fi utilizată în timp real, într-un joc, ori de câte ori jucătorii vorbesc unul cu celălalt sau în timpul producției, pentru a înregistra expresii ale unui actor, precum și vocea lor pentru personaje mai realiste.

Came Echo este un RTS tactic care utilizează capabilitățile de recunoaștere a vocii ale RealSense pentru a lăsa jucătorul să comanda echipa. Este ușor să vedem cum ar putea fi adaptat acest lucru, de exemplu, unei echipe bazate pe echipa.

Cu ani în urmă, Johnny Lee a explicat cum să utilizați (în mod eronat) un controler Wii și o bară de senzori pentru a urmări poziția capului jucătorului și pentru a ajusta vizualizarea în joc în consecință. Puține jocuri, dacă există, au folosit de fapt acest lucru (fără îndoială datorită setării neortodoxe pe care o cere), dar capabilitățile RealSense de urmărire a capului și feței fac acest lucru posibil și mult mai simplu. 

Există, de asemenea, mai multe jocuri care deja folosesc RealSense pentru a-și controla gesturile:

Laserlife, un joc de explorare sci-fi din studioul din spatele seriei BIT.TRIP.

Șeful Ordinului, un joc de lupte în stil turneu, plasat într-o lume fantastică, în care jucătorii folosesc gesturi de mână pentru a le vrăji.

Spațiu între, în care utilizați mișcări de mână înot pentru a ghida țestoase, pești și alte creaturi marine printr-o serie de sarcini într-un cadru subacvatic.

Madagascar Move it !, un joc pentru copii similar cu seria Let's Dance.

Controalele cu gesturi nu sunt chiar noi pentru jocuri, dar anterior au fost aproape exclusiviste pentru Kinect. Acum, ele pot fi folosite în jocuri PC - adică Steam, și chiar platforma web.

Cum să utilizați RealSense ca dezvoltator de jocuri

Primul pas: descărcați setul SDK. (Ei bine, OK, primul pas este, probabil, de a obține un dispozitiv cu o cameră RealSense sau de a rezerva un kit dev.) 

SDK conține:

  • Biblioteci și interfețe pentru Java, Procesare, C ++, C # și JavaScript
  • Un set de instrumente Unity cu scripturi și prefabricate
  • Exemplu de coduri și demonstrații
  • Documentație

Apoi, aruncați o privire asupra site-ului Intel RealSense SDK Training. Aici veți găsi ghiduri pentru a vă începe, tutoriale pentru a vă ghida prin utilizarea anumitor funcții (inclusiv Unity Toolkit) și a videoclipurilor din seminariile anterioare. De asemenea, vom publica tutoriale RealSense pe Tuts + în următoarele câteva săptămâni.

Canalul YouTube al companiei YouTube are o listă de redare extraordinară de videoclipuri despre dezvoltarea pentru RealSense. Acestea se concentrează mult mai mult pe UX și UI decât tutorialele de mai sus; urmăriți acest videoclip pentru un exemplu:

Aceste Instrucțiuni UX (PDF) sunt un excelent acompaniament pentru videoclipurile de mai sus.

Odată ce ați avut o imagine de ansamblu asupra a ceea ce poate face SDK și a modului în care funcționează diversele biblioteci, aruncați-vă în detaliu în documentație.

În cele din urmă, verificați forumurile oficiale pentru a discuta cu alți dezvoltatori, pentru a vedea ce lucrează și pentru a primi sfaturi.

Concluzie

Am descoperit ce este RealSense, ce dezvoltatori de jocuri îl folosesc și cum puteți să-l utilizați în propriile jocuri. Urmăriți secțiunea dezvoltării jocurilor Tuts + în următoarele câteva săptămâni pentru câteva tutoriale despre scanarea capului, tastarea gratuită a tastaturii și recunoașterea expresiei.

Programul Intel® Software Innovator sprijină dezvoltatorii independenți inovatoare, care au capacitatea de a crea și de a demonstra proiecte cu perspectivă. Inovatorii profită de oportunitățile de vorbire și demo la evenimente din industrie și întâlniri pentru dezvoltatori.

Zona dezvoltatorilor Intel® oferă instrumentele și instrucțiunile pentru dezvoltarea de aplicații cross-platform, informații despre platforme și tehnologii, eșantioane de coduri și expertiză de la egal la egal pentru a ajuta dezvoltatorii să inoveze și să reușească. Alăturați-vă comunităților noastre pentru internetul LucrurilorAndroid *Tehnologia Intel RealSense, Codul modernDezvoltator de jocuri și ferestre * pentru a descărca unelte, a accesa kit-uri dev, a-și împărtăși idei cu dezvoltatori asemănători și a participa la hackathons, concursuri, roadshows și evenimente locale.