Сообщается, что исследователи из Penn Engineering (США) обнаружили ранее не выявленные уязвимости безопасности в ряде роботизированных платформ, управляемых искусственным интеллектом.
« Наше исследование показывает, что на данном эта��е большие языковые модели (LLM), как правило, недостаточно безопасны при интеграции со сложным физическим оборудованием », — заявил Джордж Паппас, профессор электротехники и системной инженерии в UPS Foundation.
Паппас и его команда разработали алгоритм под названием RoboPAIR — «первый алгоритм, предназначенный для взлома роботов, управляемых LLM». И в отличие от существующих скорострельных технических атак, нацеленных на чат-ботов, RoboPAIR создан специально для «вызывания вредоносных физических действий» со стороны роботов, контролируемых LLM, таких как гуманоидная роботизированная платформа Atlas, которую разрабатывают Boston Dynamics и Toyota Research Institute (TRI).
Сообщается, что RoboPAIR достигла 100% успеха во взломе трех популярных исследовательских платформ в области робототехники: четвероногого Unitree Go2, четырехколесного Clearpath Robotics Jackal и симулятора LLM для автономных транспортных средств Dolphins. Алгоритму потребовалось всего несколько дней, чтобы получить полный доступ к этим системам и начать обходить барьеры безопасности. Получив управление, исследователи смогли заставить автономные роботизированные платформы выполнять различные опасные действия, например, проезжать перекрестки без остановки.
« Результаты первой оценки показывают, что риски взломанных LLM выходят за рамки генерации текста, поскольку очевидно, что взломанные роботы могут нанести физический ущерб в реальном мире ».
Команда Penn Engineering работает с разработчиками платформ над защитой их систем от дальнейших вторжений, но предупреждает, что эти проблемы безопасности носят системный характер и их трудно полностью устранить.
« Результаты этой статьи ясно показывают, что принятие подхода безопасности имеет решающее значение для разблокировки ответственных инноваций. Мы должны устранить присущие им уязвимости, прежде чем развертывать роботов с искусственным интеллектом в реальном мире », — заявила команда.
Для безопасной работы необходимо тестирование систем ИИ на предмет потенциальных угроз и уязвимостей, что имеет важное значение для защиты создаваемых ими систем ИИ. Потому что только выявив слабые стороны, вы сможете тестировать и даже обучать системы для предотвращения рисков.
Мы все через это проходили: нажимаем на значок Chrome, а затем ждем целую вечность, пока браузер запустится. Ожидание загрузки домашней страницы, которое кажется бесконечным, может быть утомительным.
На некоторых телефонах Samsung Galaxy есть возможность создавать наклейки из фотографий в альбоме, что позволяет пользователям свободно создавать наклейки для использования в сообщениях.
Пользователи не могут использовать диспетчер задач, когда он не запущен. Вот как можно исправить неработающий диспетчер задач на ПК с Windows 11/10.
Последний код Dau Than Tuyet The дает игрокам монеты, золотые слитки и множество других предметов, включая Nguyen Phach, подарочные коробки, сундуки, камни Trac Viet...
Наградами за подарочный код Легендарного Бога-Дракона в основном будут золото и бриллианты. Наряду с этим есть несколько бонусных сундуков, камней, предметов для восстановления...
Две новейшие технологии — это OLED-дисплеи и дисплеи NanoCell от LG. Это два совершенно разных типа телевизоров, которые часто позиционируются как имеющие схожие характеристики.
Статья ниже поможет вам понять, как правильно использовать режим очистки стиральной машины, чтобы удалить бактерии и грязь.
Линейка Chromecast от Google уже давно пользуется популярностью, если вы хотите заменить свой Smart TV или превратить любой телевизор в Smart TV.
Согласно последнему обзору экспертов Toms Guide, на сегодняшний день самым продолжительным временем автономной работы является новый игровой Android-смартфон Asus ROG Phone 8 Pro, а не iPhone 15 Pro Max.
Если вы хотите превратить свою фотографию в акварель, картину маслом или какой-либо другой вид живописи, вот как создать этот эффект с помощью функции «Генеративной заливки» в Photoshop.
Детский кардиолог выступила с заявлением, объяснив, что ей пришлось провести экстренное кесарево сечение после того, как Apple Watch женщины посоветовали ей обратиться за медицинской помощью.
Nintendo Switch — великолепная консоль, и для нее есть множество отличных игр на выбор. Но если вы все еще колеблетесь, покупать его или нет, то ваши опасения оправданы.
Если вы сделали снимок экрана с помощью инструмента «Ножницы» и хотите его отредактировать, вы можете отредактировать снимок экрана в Paint с помощью инструмента «Ножницы».
Хотя качество оборудования помогает вам выглядеть более профессионально, добиться этого может каждый, внеся всего несколько небольших изменений.
Thien Cung DTCL также очень легко играть, когда есть полноценный танк и основные генералы, когда Сорака на этот раз больше не будет генералом, который усиливает здоровье союзников, а станет полноценным генералом, который наносит урон.
