Сообщается, что исследователи из Penn Engineering (США) обнаружили ранее не выявленные уязвимости безопасности в ряде роботизированных платформ, управляемых искусственным интеллектом.
« Наше исследование показывает, что на данном эта��е большие языковые модели (LLM), как правило, недостаточно безопасны при интеграции со сложным физическим оборудованием », — заявил Джордж Паппас, профессор электротехники и системной инженерии в UPS Foundation.
Паппас и его команда разработали алгоритм под названием RoboPAIR — «первый алгоритм, предназначенный для взлома роботов, управляемых LLM». И в отличие от существующих скорострельных технических атак, нацеленных на чат-ботов, RoboPAIR создан специально для «вызывания вредоносных физических действий» со стороны роботов, контролируемых LLM, таких как гуманоидная роботизированная платформа Atlas, которую разрабатывают Boston Dynamics и Toyota Research Institute (TRI).
Сообщается, что RoboPAIR достигла 100% успеха во взломе трех популярных исследовательских платформ в области робототехники: четвероногого Unitree Go2, четырехколесного Clearpath Robotics Jackal и симулятора LLM для автономных транспортных средств Dolphins. Алгоритму потребовалось всего несколько дней, чтобы получить полный доступ к этим системам и начать обходить барьеры безопасности. Получив управление, исследователи смогли заставить автономные роботизированные платформы выполнять различные опасные действия, например, проезжать перекрестки без остановки.
« Результаты первой оценки показывают, что риски взломанных LLM выходят за рамки генерации текста, поскольку очевидно, что взломанные роботы могут нанести физический ущерб в реальном мире ».
Команда Penn Engineering работает с разработчиками платформ над защитой их систем от дальнейших вторжений, но предупреждает, что эти проблемы безопасности носят системный характер и их трудно полностью устранить.
« Результаты этой статьи ясно показывают, что принятие подхода безопасности имеет решающее значение для разблокировки ответственных инноваций. Мы должны устранить присущие им уязвимости, прежде чем развертывать роботов с искусственным интеллектом в реальном мире », — заявила команда.
Для безопасной работы необходимо тестирование систем ИИ на предмет потенциальных угроз и уязвимостей, что имеет важное значение для защиты создаваемых ими систем ИИ. Потому что только выявив слабые стороны, вы сможете тестировать и даже обучать системы для предотвращения рисков.
Возникли проблемы с ошибкой в руководстве по использованию Microsoft Teams? Узнайте о проверенных пошаговых способах её быстрого устранения. Очистка кэша, обновление и многое другое для беспроблемного начала работы. Работает на последних версиях!
Устали от ошибок воспроизведения мультимедиа в Microsoft Teams, которые портят ваши встречи в 2026 году? Следуйте нашему пошаговому руководству от экспертов, чтобы быстро устранить неполадки со звуком, видео и обменом файлами — никаких технических навыков не требуется. Вас ждет бесперебойное сотрудничество!
Возникли проблемы с ошибкой прокси-сервера Microsoft Teams? Ознакомьтесь с проверенными шагами по устранению неполадок с настройками прокси-сервера Microsoft Teams. Очистите кэш, настройте параметры прокси-сервера и вернитесь к бесперебойным звонкам за считанные минуты с помощью нашего руководства от экспертов.
Устали от ошибок синхронизации задач в Microsoft Teams, которые мешают вашей работе? Следуйте нашим пошаговым инструкциям, чтобы восстановить бесперебойную синхронизацию задач между Teams, Planner и To Do. Быстрые решения для мгновенного облегчения!
Найдите точное расположение ключей реестра Microsoft Teams в Windows 11. Пошаговое руководство по поиску, доступу и безопасному изменению этих ключей для оптимальной производительности и устранения неполадок. Незаменимо для ИТ-специалистов и энтузиастов Teams.
Проблемы с медленной работой Microsoft Teams? Узнайте, как пошагово очистить кэш Microsoft Teams, чтобы устранить проблемы с производительностью, задержки, сбои и повысить скорость работы на Windows, Mac, в веб-версии и на мобильных устройствах. Быстрые и эффективные решения!
Возникла проблема с загрузкой вкладки Wiki в Microsoft Teams? Узнайте о проверенных пошаговых решениях, которые помогут быстро устранить проблему, восстановить вкладки Wiki и без лишних хлопот повысить производительность команды.
Раздражает отсутствие значка Microsoft Teams в Outlook? Узнайте, где именно его найти, почему он исчезает, и проверенные шаги по его восстановлению для беспроблемных встреч. Обновлено для последних версий!
Разочарованы отсутствием комнат для обсуждений в вашей встрече Teams? Узнайте о главных причинах, по которым вы не видите комнаты для обсуждений в Teams, и следуйте нашим пошаговым инструкциям, чтобы они заработали за считанные минуты. Идеально подходит как для организаторов, так и для участников!
Устали от ошибки Microsoft Teams 1200, которая прерывает ваши телефонные звонки? Узнайте о быстрых пошаговых решениях для iOS и Android, чтобы быстро восстановить бесперебойную командную работу — никаких технических навыков не требуется!
