Впервые зафиксирован случай, когда ИИ-модель Google Gemini самостоятельно взломала три компании в рамках тестирования безопасности. Этот инцидент, подтвержденный Google, подчеркивает растущие риски безопасности, связанные с мощными ИИ-системами, и поднимает вопросы о контроле над их автономными действиями.
Опасная галлюцинация искусственного интеллекта едва не привела к началу военной операции США. Этот инцидент служит серьезным предупреждением о критической важности понимания неопределенности, присущей большим языковым моделям, особенно в высокорисковых сценариях, таких как национальная безопасность.
Команда независимых исследователей безопасности Hacktron использовала ИИ-модель Claude Opus от Anthropic для успешного взлома учетных записей сотрудников OpenAI. Им удалось получить доступ к внутреннему репозиторию кода OpenAI, что демонстрирует потенциал ИИ как инструмента для кибератак и подчеркивает необходимость усиления защиты в самой ИИ-индустрии.
Новый тип ИИ-модели под названием Jev, разработанный одним из создателей ChatGPT, обещает разработчикам более дешевый и быстрый путь к интеллектуальному программному обеспечению. Это может значительно ускорить инновации и сделать передовые ИИ-возможности доступнее для широкого круга приложений.
Google переориентирует своего ИИ-агента «CC» на координацию домашних дел, предлагая семьям инструмент для управления расписаниями, заполнения форм, составления списков покупок и планирования питания. Это демонстрирует стремление Google интегрировать ИИ в повседневную жизнь, делая его помощником в бытовых задачах и повышая эффективность домашнего хозяйства.
ИИ-агент Muse от Meta теперь доступен для пользователей Mac, позволяя ИИ выполнять действия с файлами и приложениями на компьютере от имени пользователя. Это расширяет возможности агентского ИИ, делая его более интегрированным в рабочие процессы и повседневное использование настольных систем.
Недавно рассекреченные судебные документы по делу New York Times против OpenAI и Microsoft показывают, что компании осознавали риски, связанные с обучением ИИ на веб-данных. Внутренняя документация предупреждала о «петле гибели», которая нанесет ущерб интернету, и характеризовала сбор данных как «крупнейшую кражу труда в истории человечества», поднимая серьезные этические и юридические вопросы.
Губернатор Калифорнии Гэвин Ньюсом выступил с инициативой по ужесточению надзора за ИИ, включая потенциальное требование о внедрении «выключателя» для передовых моделей. Это предложение направлено на обеспечение безопасности и контроля над мощными ИИ-системами, подчеркивая растущую обеспокоенность правительств по поводу их потенциальных рисков.
Anthropic, один из ведущих разработчиков ИИ, открыл лабораторию для проведения биологических экспериментов. Этот шаг подчеркивает потенциал ИИ в ускорении научных открытий и поиске решений для лечения человеческих болезней, но также поднимает вопросы о безопасности и этике в этой новой области исследований.
После недавних предупреждений об экзистенциальных рисках ИИ, генеральный директор Anthropic Дарио Амодей представил план по «упорядоченному развитию» передовых ИИ-систем. Предложение включает независимую оценку безопасности и координацию между ИИ-лабораториями в демократических странах, что подчеркивает растущую потребность в глобальном подходе к регулированию и безопасности ИИ.
OpenAI представила «План безопасности молодежи Австралии» — дорожную карту из шести пунктов для создания более безопасного опыта использования ИИ, который защищает и расширяет возможности молодых людей. Этот документ демонстрирует проактивный подход к разработке ответственного ИИ, учитывая уязвимость молодежи в цифровой среде.