1. Состав и функции программного обеспечения1.1. Общая архитектураПрограммное обеспечение «RDI Motion Capture» представляет собой мобильное приложение для iOS и включает следующие модули:
- модуль захвата мимики лица (Face),
- модуль захвата движений тела (Body),
- модуль записи и воспроизведения реплеев (Album),
- модуль настроек (Settings).
1.2. Модуль захвата мимики лица (Face)Модуль обеспечивает захват мимики лица в реальном времени с использованием технологии ARKit и обладает следующим функционалом:
- детекция и отслеживание лица через фронтальную камеру с поддержкой TrueDepth,
- считывание параметров лицевой анимации (blend shapes): движения бровей, глаз, челюсти, губ, щёк, носа, языка,
- считывание углов поворота головы и направления взгляда (euler angles),
- отображение wireframe-модели лица в реальном времени,
- передача захваченных данных на робота через сокетное соединение (режим Live),
- запись видео с камеры и сохранение данных мимики в формате CSV (режим Record).
1.3. Модуль захвата движений тела (Body)Модуль обеспечивает захват позы и жестов человека с использованием Google MediaPipe и обладает следующим функционалом:
- детекция ключевых точек тела (33 точки позы: суставы, конечности, голова),
- детекция ключевых точек кистей рук (по 21 точке на каждую руку),
- передача координат (x, y, z) всех точек на робота через сокетное соединение (режим Live),
- запись видео с камеры и аудио, сохранение данных скелета в формате CSV (режим Record),
- автоматическое объединение видео- и аудиодорожек при сохранении записи.
1.4. Модуль записи и воспроизведения реплеев (Album)Модуль обеспечивает управление записанными сессиями захвата движений и обладает следующим функционалом:
- просмотр списка сохранённых реплеев, сгруппированных по дате,
- воспроизведение записанного видео,
- экспорт файлов реплея (CSV + видео) через стандартный механизм iOS (AirDrop, почта, файлы и др.),
- выборочное и массовое удаление реплеев,
- автоматическая очистка неиспользуемых файлов из хранилища.
1.5. Модуль настроек (Settings)Модуль позволяет настраивать параметры подключения и режим работы приложения:
- выбор режима работы: Record (запись) или Live (прямая трансляция),
- указание IP-адреса и порта робота для сокетного соединения,
- сохранение настроек между сессиями.
2. Информация, необходимая для установки и эксплуатации программного обеспечения2.1. Требования к устройству- Устройство: iPhone с камерой TrueDepth (iPhone X и новее) для модуля Face; любой iPhone для модуля Body.
- Свободное место на устройстве: не менее 100 МБ для установки, дополнительное пространство для хранения реплеев.
2.2. Программное окружение- Операционная система: iOS 13.0 и выше.
2.3. Требования к сетевому окружениюДля работы в режиме Live (прямая трансляция движений на робота) необходимо:
- Нахождение устройства и робота в одной локальной сети (Wi-Fi).
- Открытый TCP-порт на стороне робота, указанный в настройках приложения.
2.4. Установка приложенияПриложение распространяется бесплатно через Apple App Store. Для установки:
- Откройте приложение App Store на устройстве iPhone.
- В строке поиска введите «RDI Motion Capture» и нажмите «Найти».
- В результатах поиска выберите приложение «RDI Motion Capture» (разработчик — RDI Robots).
- Нажмите кнопку «Загрузить» (значок облака со стрелкой). Приложение будет загружено и установлено автоматически.
- После завершения установки иконка приложения появится на главном экране устройства.
Также можно перейти по прямой ссылке:
https://apps.apple.com/ru/app/rdi-motion-capture/id6461419858Дополнительная настройка серверного окружения не требуется.2.5. Руководство по эксплуатации2.5.1. Запуск и главное менюПосле запуска приложения отображается главное меню с четырьмя кнопками:
- Face — переход к захвату мимики лица,
- Body — переход к захвату движений тела,
- Album — просмотр сохранённых записей (реплеев),
- Settings — настройка параметров подключения и режима работы.
В нижней части экрана отображается версия приложения.
2.5.2. Настройка параметров (Settings)Перед началом работы необходимо выполнить настройку:
- На главном экране нажмите кнопку Settings.
- Выберите режим работы: Record (запись сессии для последующего воспроизведения) или Live (прямая трансляция на робота в реальном времени).
- В поле IP введите IP-адрес робота (например, 192.168.1.100).
- В поле Port введите номер порта (например, 8080).
- Нажмите кнопку «← Save & Back» для сохранения настроек и возврата в главное меню.
IP-адрес и порт необходимы для обоих режимов: в режиме Live данные передаются на робота в реальном времени, в режиме Record — для формирования CSV-скрипта с привязкой к параметрам подключения.2.5.3. Захват мимики лица (Face)- На главном экране нажмите кнопку Face.
- Приложение запросит доступ к камере — разрешите доступ.
- На экране появится изображение с фронтальной камеры и wireframe-модель лица, наложенная на обнаруженное лицо.
- Для начала записи или трансляции нажмите красную круглую кнопку в нижней части экрана. Кнопка изменит вид — внутри появится квадрат «стоп», а в правом верхнем углу начнёт работать таймер.
- Расположите лицо перед камерой. Приложение будет отслеживать мимику в реальном времени.
- Для завершения нажмите кнопку повторно (квадрат «стоп»). В режиме Record запись будет сохранена в альбом; в режиме Live трансляция остановится.
2.5.4. Захват движений тела (Body)- На главном экране нажмите кнопку Body.
- Приложение запросит доступ к камере и микрофону — разрешите доступ.
- Дождитесь загрузки модели MediaPipe (на экране отобразится индикатор загрузки).
- После загрузки появится изображение с камеры. Для начала записи или трансляции нажмите красную круглую кнопку.
- Направьте камеру на человека, чьи движения необходимо захватить. Приложение будет отслеживать позу тела и кисти рук.
- Для завершения нажмите кнопку повторно. В режиме Record запись видео и аудио будет сохранена в альбом.
2.5.5. Работа с записями (Album)- На главном экране нажмите кнопку Album.
- Отобразится список сохранённых реплеев, сгруппированных по дате. Каждая запись содержит тип захвата (face или body), идентификатор и время записи.
- Для просмотра записи нажмите на неё — откроется видеоплеер.
- Для экспорта нажмите кнопку экспорта справа от записи. Откроется стандартное окно iOS для отправки файлов (CSV + видео) через AirDrop, почту, мессенджеры и т.д.
- Для удаления проведите по записи влево и нажмите «Удалить». Для массового удаления нажмите Select в правом верхнем углу, отметьте нужные записи и нажмите значок корзины.