Flexion Robotics продемонстрировала работу модульных роботов в сложных условиях и при выполнении задач по очистке, их производительность и уровень инженерного исполнения очень высоки. Такие системы явно уже не находятся на стадии экспериментов, а принимают решения в реальных, неконтролируемых условиях. Но чем больше они выходят на улицу, в реальный мир, тем меньше эти автономные системы могут просто хорошо выглядеть в движении. Ключевой вопрос не в том, могут ли они выполнять задачи, а в том: Почему они принимают то или иное решение в тот момент? Правильны ли их восприятия? Соответствует ли путь принятия решения требованиям безопасности и операционным ограничениям? ▚▚ Если на эти вопросы можно ответить только с помощью журналов или объяснений от производителей, то система по сути остается черным ящиком. А в полевых условиях, при работах по ликвидации последствий бедствий или в общественных местах, наличие черного ящика недопустимо. Действительно развертываемые автономные роботы для работы на улице нуждаются в проверяемых записях решений. Это не просто анализ после факта, а возможность доказать, что каждое ключевое действие основано на соблюдении норм восприятия, рассуждения и выполнения. Когда автономные системы начинают нести реальные риски, доверие не может быть основано на демонстрациях, а должно поддерживаться верификацией. #KaitoYap @KaitoAI #Yap @inference_labs