Motion capture
1. Состав и функции программного обеспечения

1.1. Общая архитектура
Программное обеспечение «RDI Motion Capture» представляет собой мобильное приложение для iOS и включает следующие модули:
  • модуль захвата мимики лица (Face),
  • модуль захвата движений тела (Body),
  • модуль записи и воспроизведения реплеев (Album),
  • модуль настроек (Settings).

1.2. Модуль захвата мимики лица (Face)
Модуль обеспечивает захват мимики лица в реальном времени с использованием технологии ARKit и обладает следующим функционалом:
  • детекция и отслеживание лица через фронтальную камеру с поддержкой TrueDepth,
  • считывание параметров лицевой анимации (blend shapes): движения бровей, глаз, челюсти, губ, щёк, носа, языка,
  • считывание углов поворота головы и направления взгляда (euler angles),
  • отображение wireframe-модели лица в реальном времени,
  • передача захваченных данных на робота через сокетное соединение (режим Live),
  • запись видео с камеры и сохранение данных мимики в формате CSV (режим Record).

1.3. Модуль захвата движений тела (Body)
Модуль обеспечивает захват позы и жестов человека с использованием Google MediaPipe и обладает следующим функционалом:
  • детекция ключевых точек тела (33 точки позы: суставы, конечности, голова),
  • детекция ключевых точек кистей рук (по 21 точке на каждую руку),
  • передача координат (x, y, z) всех точек на робота через сокетное соединение (режим Live),
  • запись видео с камеры и аудио, сохранение данных скелета в формате CSV (режим Record),
  • автоматическое объединение видео- и аудиодорожек при сохранении записи.

1.4. Модуль записи и воспроизведения реплеев (Album)
Модуль обеспечивает управление записанными сессиями захвата движений и обладает следующим функционалом:
  • просмотр списка сохранённых реплеев, сгруппированных по дате,
  • воспроизведение записанного видео,
  • экспорт файлов реплея (CSV + видео) через стандартный механизм iOS (AirDrop, почта, файлы и др.),
  • выборочное и массовое удаление реплеев,
  • автоматическая очистка неиспользуемых файлов из хранилища.

1.5. Модуль настроек (Settings)
Модуль позволяет настраивать параметры подключения и режим работы приложения:
  • выбор режима работы: Record (запись) или Live (прямая трансляция),
  • указание IP-адреса и порта робота для сокетного соединения,
  • сохранение настроек между сессиями.

2. Информация, необходимая для установки и эксплуатации программного обеспечения

2.1. Требования к устройству
  • Устройство: iPhone с камерой TrueDepth (iPhone X и новее) для модуля Face; любой iPhone для модуля Body.
  • Свободное место на устройстве: не менее 100 МБ для установки, дополнительное пространство для хранения реплеев.

2.2. Программное окружение
  • Операционная система: iOS 13.0 и выше.

2.3. Требования к сетевому окружению
Для работы в режиме Live (прямая трансляция движений на робота) необходимо:
  • Нахождение устройства и робота в одной локальной сети (Wi-Fi).
  • Открытый TCP-порт на стороне робота, указанный в настройках приложения.

2.4. Установка приложения
Приложение распространяется бесплатно через Apple App Store. Для установки:
  1. Откройте приложение App Store на устройстве iPhone.
  2. В строке поиска введите «RDI Motion Capture» и нажмите «Найти».
  3. В результатах поиска выберите приложение «RDI Motion Capture» (разработчик — RDI Robots).
  4. Нажмите кнопку «Загрузить» (значок облака со стрелкой). Приложение будет загружено и установлено автоматически.
  5. После завершения установки иконка приложения появится на главном экране устройства.
Также можно перейти по прямой ссылке: https://apps.apple.com/ru/app/rdi-motion-capture/id6461419858
Дополнительная настройка серверного окружения не требуется.

2.5. Руководство по эксплуатации
2.5.1. Запуск и главное меню
После запуска приложения отображается главное меню с четырьмя кнопками:
  • Face — переход к захвату мимики лица,
  • Body — переход к захвату движений тела,
  • Album — просмотр сохранённых записей (реплеев),
  • Settings — настройка параметров подключения и режима работы.
В нижней части экрана отображается версия приложения.

2.5.2. Настройка параметров (Settings)
Перед началом работы необходимо выполнить настройку:
  1. На главном экране нажмите кнопку Settings.
  2. Выберите режим работы: Record (запись сессии для последующего воспроизведения) или Live (прямая трансляция на робота в реальном времени).
  3. В поле IP введите IP-адрес робота (например, 192.168.1.100).
  4. В поле Port введите номер порта (например, 8080).
  5. Нажмите кнопку «← Save & Back» для сохранения настроек и возврата в главное меню.
IP-адрес и порт необходимы для обоих режимов: в режиме Live данные передаются на робота в реальном времени, в режиме Record — для формирования CSV-скрипта с привязкой к параметрам подключения.

2.5.3. Захват мимики лица (Face)
  1. На главном экране нажмите кнопку Face.
  2. Приложение запросит доступ к камере — разрешите доступ.
  3. На экране появится изображение с фронтальной камеры и wireframe-модель лица, наложенная на обнаруженное лицо.
  4. Для начала записи или трансляции нажмите красную круглую кнопку в нижней части экрана. Кнопка изменит вид — внутри появится квадрат «стоп», а в правом верхнем углу начнёт работать таймер.
  5. Расположите лицо перед камерой. Приложение будет отслеживать мимику в реальном времени.
  6. Для завершения нажмите кнопку повторно (квадрат «стоп»). В режиме Record запись будет сохранена в альбом; в режиме Live трансляция остановится.

2.5.4. Захват движений тела (Body)
  1. На главном экране нажмите кнопку Body.
  2. Приложение запросит доступ к камере и микрофону — разрешите доступ.
  3. Дождитесь загрузки модели MediaPipe (на экране отобразится индикатор загрузки).
  4. После загрузки появится изображение с камеры. Для начала записи или трансляции нажмите красную круглую кнопку.
  5. Направьте камеру на человека, чьи движения необходимо захватить. Приложение будет отслеживать позу тела и кисти рук.
  6. Для завершения нажмите кнопку повторно. В режиме Record запись видео и аудио будет сохранена в альбом.

2.5.5. Работа с записями (Album)
  1. На главном экране нажмите кнопку Album.
  2. Отобразится список сохранённых реплеев, сгруппированных по дате. Каждая запись содержит тип захвата (face или body), идентификатор и время записи.
  3. Для просмотра записи нажмите на неё — откроется видеоплеер.
  4. Для экспорта нажмите кнопку экспорта справа от записи. Откроется стандартное окно iOS для отправки файлов (CSV + видео) через AirDrop, почту, мессенджеры и т.д.
  5. Для удаления проведите по записи влево и нажмите «Удалить». Для массового удаления нажмите Select в правом верхнем углу, отметьте нужные записи и нажмите значок корзины.