Сообщается, что исследователи из Penn Engineering (США) обнаружили ранее не выявленные уязвимости безопасности в ряде роботизированных платформ, управляемых искусственным интеллектом.
« Наше исследование показывает, что на данном эта��е большие языковые модели (LLM), как правило, недостаточно безопасны при интеграции со сложным физическим оборудованием », — заявил Джордж Паппас, профессор электротехники и системной инженерии в UPS Foundation.
Паппас и его команда разработали алгоритм под названием RoboPAIR — «первый алгоритм, предназначенный для взлома роботов, управляемых LLM». И в отличие от существующих скорострельных технических атак, нацеленных на чат-ботов, RoboPAIR создан специально для «вызывания вредоносных физических действий» со стороны роботов, контролируемых LLM, таких как гуманоидная роботизированная платформа Atlas, которую разрабатывают Boston Dynamics и Toyota Research Institute (TRI).
Сообщается, что RoboPAIR достигла 100% успеха во взломе трех популярных исследовательских платформ в области робототехники: четвероногого Unitree Go2, четырехколесного Clearpath Robotics Jackal и симулятора LLM для автономных транспортных средств Dolphins. Алгоритму потребовалось всего несколько дней, чтобы получить полный доступ к этим системам и начать обходить барьеры безопасности. Получив управление, исследователи смогли заставить автономные роботизированные платформы выполнять различные опасные действия, например, проезжать перекрестки без остановки.
« Результаты первой оценки показывают, что риски взломанных LLM выходят за рамки генерации текста, поскольку очевидно, что взломанные роботы могут нанести физический ущерб в реальном мире ».
Команда Penn Engineering работает с разработчиками платформ над защитой их систем от дальнейших вторжений, но предупреждает, что эти проблемы безопасности носят системный характер и их трудно полностью устранить.
« Результаты этой статьи ясно показывают, что принятие подхода безопасности имеет решающее значение для разблокировки ответственных инноваций. Мы должны устранить присущие им уязвимости, прежде чем развертывать роботов с искусственным интеллектом в реальном мире », — заявила команда.
Для безопасной работы необходимо тестирование систем ИИ на предмет потенциальных угроз и уязвимостей, что имеет важное значение для защиты создаваемых ими систем ИИ. Потому что только выявив слабые стороны, вы сможете тестировать и даже обучать системы для предотвращения рисков.
Студентам нужен определённый тип ноутбука для учёбы. Он должен быть не только достаточно мощным для успешной работы на выбранной специальности, но и достаточно компактным и лёгким, чтобы его можно было носить с собой весь день.
Добавить принтер в Windows 10 просто, хотя процесс для проводных устройств будет отличаться от процесса для беспроводных устройств.
Как вы знаете, оперативная память (ОЗУ) — очень важный компонент компьютера, выполняющий функцию памяти для обработки данных и определяющий скорость работы ноутбука или ПК. В статье ниже WebTech360 расскажет вам о нескольких способах проверки оперативной памяти на наличие ошибок с помощью программного обеспечения в Windows.
Умные телевизоры действительно покорили мир. Благодаря множеству замечательных функций и возможности подключения к Интернету технологии изменили то, как мы смотрим телевизор.
Холодильники — привычные бытовые приборы. Холодильники обычно имеют 2 отделения: холодильное отделение просторное и имеет подсветку, которая автоматически включается каждый раз, когда пользователь ее открывает, а морозильное отделение узкое и не имеет подсветки.
На сети Wi-Fi влияют многие факторы, помимо маршрутизаторов, пропускной способности и помех, но есть несколько разумных способов улучшить работу вашей сети.
Если вы хотите вернуться к стабильной версии iOS 16 на своем телефоне, вот базовое руководство по удалению iOS 17 и понижению версии с iOS 17 до 16.
Йогурт — замечательная еда. Полезно ли есть йогурт каждый день? Как изменится ваше тело, если вы будете есть йогурт каждый день? Давайте узнаем вместе!
В этой статье рассматриваются наиболее питательные виды риса и способы максимально увеличить пользу для здоровья любого выбранного вами вида риса.
Установление режима сна и отхода ко сну, смена будильника и корректировка рациона питания — вот некоторые из мер, которые помогут вам лучше спать и вовремя просыпаться по утрам.
Арендуйте, пожалуйста! Landlord Sim — мобильная игра-симулятор для iOS и Android. Вы будете играть за владельца жилого комплекса и начнете сдавать квартиры в аренду, чтобы улучшить интерьер своих апартаментов и подготовить их к приему арендаторов.
Получите игровой код Bathroom Tower Defense Roblox и обменяйте его на потрясающие награды. Они помогут вам улучшить или разблокировать башни с более высоким уроном.
Давайте максимально подробно изучим конструкцию, обозначения и принципы работы трансформаторов.
От лучшего качества изображения и звука до голосового управления и многого другого — эти функции на базе искусственного интеллекта делают смарт-телевизоры намного лучше!
Поначалу люди возлагали большие надежды на DeepSeek. Как ИИ-чат-бот, позиционируемый как серьезный конкурент ChatGPT, он обещает интеллектуальные возможности и возможности чата.
