Роботы все больше проникают в нашу повседневную жизнь. Это могут быть и невероятно полезные устройства (бионические конечности, роботы-газонокосилки или курьеры, которые доставляют еду людям, находящимся в карантине), и просто развлекательные (роботы-собаки, танцующие игрушки и акробатические дроны). Пожалуй, будущие возможности роботов ограничены лишь нашим воображением.
Но что произойдет, когда роботы не делают то, что мы от них хотим, или делают это так, что причиняют вред? Например, что, если бионическая рука станет одним из участников аварии? В материале — о специфике таких инцидентов и том, как нужно их расследовать.
Как расследовать аварии с участием роботов и почему это важно делать
Несчастные случаи с роботами беспокоят по двум причинам.
- Увеличение числа роботов, естественно, привет и к росту инцидентов с их участием.
- Нам все лучше удается создавать более сложных роботов. Чем сложнее конструкция, тем труднее понять, что могло пойти не так.
Большинство роботов работают на базе различных форм искусственного интеллекта. ИИ способен принимать решения, подобные человеческим (хотя эти решения могут объективно хорошими или плохими). Они могут выполнять самые разные задачи— от идентификации объекта до интерпретации речи.
ИИ обучают делать выбор за робота, основываясь на информации из больших наборов данных. Затем ИИ проверяют на точность (то есть насколько хорошо они выполняют то, что мы от них хотим), и лишь затем ставят перед алгоритмом реальные задачи.
Кто в России будет импортозамещать софт? Каталог ИТ-компаний
ИИ можно спроектировать по-разному. Например, представьте себе робот-пылесос. Его можно сконструировать так, чтобы всякий раз, когда он сталкивается с поверхностью, он менял бы курс и двигался в случайном направлении. Можно использовать и иной подход: пусть пылесос оценивает окружающу обстановку, находит препятствия, покрывает все участки поверхности и возвращается на зарядную базу.
Если первый пылесос принимает входные данные от своих датчиков, второй отслеживает эти входные данные во внутренней картографической системе. В обоих случаях ИИ получает информацию и принимает решение на ее основе.
Читайте по теме: Профессия «робототехник»: где учиться и как стать востребованным специалистом
Чем более сложные задачи может выполнять робот, тем больше типов информации ему приходится интерпретировать. Это также может быть оценка нескольких источников данных одного типа, таких как, если речь о слуховых данных, живой голос, радио и ветер.
По мере того как роботы усложняются и могут действовать, учитывая разнообразную информацию, становится еще важнее определить, на базе каких данных действовал робот, особенно когда причинен вред.
Несчастные случаи
Как и в случае с любым продуктом, с роботами все может пойти не так,. Иногда это внутренняя проблема, например, робот не распознает голосовую команду. Порой внешняя — если датчик робота был поврежден. А иногда это может быть и то, и другое, например, робот не предназначен для работы на коврах и как бы «спотыкается». Расследования несчастных случаев с роботами должны учитывать все возможные причины.
Хотя может быть неудобно, если робот поврежден, когда что-то идет не так, нас гораздо больше беспокоит, когда робот причиняет вред или не может избежать ущерба для человека. Представьте, что бионическая рука не может схватить горячий напиток, опрокидывая его на владельца, или робот-сиделка не подает сигнал бедствия, когда его физически слабый пользователь упал.
Почему расследование несчастных случаев с роботами отличается от расследования несчастных случаев с людьми? У роботов нет мотивов. Мы хотим знать, почему робот принял то решение, которое он принял, основываясь на конкретном наборе входных данных, которые у него были.
Фото в тексте: Unsplash
В примере с бионической рукой было ли это недопонимание между пользователем и рукой? Возможно, робот перепутал несколько сигналов? Его неожиданно заклинило? Когда человек упал перед роботом-сиделкой, могла ли машина не «услышать» призыв о помощи из-за громкого вентилятора? Или он не смог распознать речь пользователя?
Черный ящик для робота
Расследование аварий с роботами имеет ключевое преимущество перед расследованием несчастных случаев с людьми: в робота можно встроить свидетеля. У коммерческих самолетов для этого есть черный ящик, разработанный так, чтобы выдерживать авиакатастрофу и служить источником данных о причинах крушения. Эта информация невероятно ценна не только, чтобы понять инциденты, но и чтобы их предотвратить.
Аналогичную цель поставил перед собой RoboTIPS, проект, который фокусируется на ответственных инновациях для социальных роботов (то есть тех, что взаимодействуют с людьми). Результатом стало создание этического черного ящика, который записывает входные данные робота и соответствующие действия.
Это устройство разрабатывается для определенного типа робота, в которого его установят, и может записывать всю информацию, с которой действует робот, будь то голосовые или визуальные данные. Оно тестируется на различных роботах как в лабораторных, так и в имитируемых аварийных условиях. Цель состоит в том, чтобы черный ящик стал стандартом для роботов всех марок и применений.
В то время как данные, записанные этическим черным ящиком, все еще нуждаются в интерпретации в случае аварии, их наличие критично для возможности провести расследование.
Подробный разбор каждого инцидента позволяет убедиться, что одни и те же ошибки не будут повторяться дважды. Такой инструмент, как этический черный ящик, даст возможность не только создавать лучших роботов, но и ответственно внедрять инновации.
Источник: rb.ru
