1.1. Общая архитектура Программное обеспечение «RDI Motion Capture» представляет собой мобильное приложение для iOS и включает следующие модули:
модуль захвата мимики лица (Face),
модуль захвата движений тела (Body),
модуль записи и воспроизведения реплеев (Album),
модуль настроек (Settings).
1.2. Модуль захвата мимики лица (Face) Модуль обеспечивает захват мимики лица в реальном времени с использованием технологии ARKit и обладает следующим функционалом:
детекция и отслеживание лица через фронтальную камеру с поддержкой TrueDepth,
считывание параметров лицевой анимации (blend shapes): движения бровей, глаз, челюсти, губ, щёк, носа, языка,
считывание углов поворота головы и направления взгляда (euler angles),
отображение wireframe-модели лица в реальном времени,
передача захваченных данных на робота через сокетное соединение (режим Live),
запись видео с камеры и сохранение данных мимики в формате CSV (режим Record).
1.3. Модуль захвата движений тела (Body) Модуль обеспечивает захват позы и жестов человека с использованием Google MediaPipe и обладает следующим функционалом:
детекция ключевых точек тела (33 точки позы: суставы, конечности, голова),
детекция ключевых точек кистей рук (по 21 точке на каждую руку),
передача координат (x, y, z) всех точек на робота через сокетное соединение (режим Live),
запись видео с камеры и аудио, сохранение данных скелета в формате CSV (режим Record),
автоматическое объединение видео- и аудиодорожек при сохранении записи.
1.4. Модуль записи и воспроизведения реплеев (Album) Модуль обеспечивает управление записанными сессиями захвата движений и обладает следующим функционалом:
просмотр списка сохранённых реплеев, сгруппированных по дате,
воспроизведение записанного видео,
экспорт файлов реплея (CSV + видео) через стандартный механизм iOS (AirDrop, почта, файлы и др.),
выборочное и массовое удаление реплеев,
автоматическая очистка неиспользуемых файлов из хранилища.
1.5. Модуль настроек (Settings) Модуль позволяет настраивать параметры подключения и режим работы приложения:
выбор режима работы: Record (запись) или Live (прямая трансляция),
указание IP-адреса и порта робота для сокетного соединения,
сохранение настроек между сессиями.
2. Информация, необходимая для установки и эксплуатации программного обеспечения
2.1. Требования к устройству
Устройство: iPhone с камерой TrueDepth (iPhone X и новее) для модуля Face; любой iPhone для модуля Body.
Свободное место на устройстве: не менее 100 МБ для установки, дополнительное пространство для хранения реплеев.
2.2. Программное окружение
Операционная система: iOS 13.0 и выше.
2.3. Требования к сетевому окружению Для работы в режиме Live (прямая трансляция движений на робота) необходимо:
Нахождение устройства и робота в одной локальной сети (Wi-Fi).
Открытый TCP-порт на стороне робота, указанный в настройках приложения.
2.4. Установка приложения Приложение распространяется бесплатно через Apple App Store. Для установки:
Откройте приложение App Store на устройстве iPhone.
В строке поиска введите «RDI Motion Capture» и нажмите «Найти».
2.5. Руководство по эксплуатации 2.5.1. Запуск и главное меню После запуска приложения отображается главное меню с четырьмя кнопками:
Face — переход к захвату мимики лица,
Body — переход к захвату движений тела,
Album — просмотр сохранённых записей (реплеев),
Settings — настройка параметров подключения и режима работы.
В нижней части экрана отображается версия приложения.
2.5.2. Настройка параметров (Settings) Перед началом работы необходимо выполнить настройку:
На главном экране нажмите кнопку Settings.
Выберите режим работы: Record (запись сессии для последующего воспроизведения) или Live (прямая трансляция на робота в реальном времени).
В поле IP введите IP-адрес робота (например, 192.168.1.100).
В поле Port введите номер порта (например, 8080).
Нажмите кнопку «← Save & Back» для сохранения настроек и возврата в главное меню.
IP-адрес и порт необходимы для обоих режимов: в режиме Live данные передаются на робота в реальном времени, в режиме Record — для формирования CSV-скрипта с привязкой к параметрам подключения.
2.5.3. Захват мимики лица (Face)
На главном экране нажмите кнопку Face.
Приложение запросит доступ к камере — разрешите доступ.
На экране появится изображение с фронтальной камеры и wireframe-модель лица, наложенная на обнаруженное лицо.
Для начала записи или трансляции нажмите красную круглую кнопку в нижней части экрана. Кнопка изменит вид — внутри появится квадрат «стоп», а в правом верхнем углу начнёт работать таймер.
Расположите лицо перед камерой. Приложение будет отслеживать мимику в реальном времени.
Для завершения нажмите кнопку повторно (квадрат «стоп»). В режиме Record запись будет сохранена в альбом; в режиме Live трансляция остановится.
2.5.4. Захват движений тела (Body)
На главном экране нажмите кнопку Body.
Приложение запросит доступ к камере и микрофону — разрешите доступ.
Дождитесь загрузки модели MediaPipe (на экране отобразится индикатор загрузки).
После загрузки появится изображение с камеры. Для начала записи или трансляции нажмите красную круглую кнопку.
Направьте камеру на человека, чьи движения необходимо захватить. Приложение будет отслеживать позу тела и кисти рук.
Для завершения нажмите кнопку повторно. В режиме Record запись видео и аудио будет сохранена в альбом.
2.5.5. Работа с записями (Album)
На главном экране нажмите кнопку Album.
Отобразится список сохранённых реплеев, сгруппированных по дате. Каждая запись содержит тип захвата (face или body), идентификатор и время записи.
Для просмотра записи нажмите на неё — откроется видеоплеер.
Для экспорта нажмите кнопку экспорта справа от записи. Откроется стандартное окно iOS для отправки файлов (CSV + видео) через AirDrop, почту, мессенджеры и т.д.
Для удаления проведите по записи влево и нажмите «Удалить». Для массового удаления нажмите Select в правом верхнем углу, отметьте нужные записи и нажмите значок корзины.