ИИ в кибербезопасности, медицине и этике: дайджест

На этой неделе ИИ оказался в центре событий: от вредоносного ПО, нацеленного на системы анализа, до спасения жизней в медицине. Технологический гигант Google столкнулся с критикой бывшего сотрудника за военные контракты и стратегию ИИ, а рынок труда фиксирует резкий рост спроса на специалистов по кибербезопасности.

Исследователи SentinelOne обнаружили вредоносное ПО Gaslight, нацеленное на macOS. Оно содержит 38 фальшивых системных сообщений, чтобы запутать LLM-агентов и заставить их признать файл безопасным. Вредоносное ПО связывают с северокорейскими хакерскими группами, для связи используется Telegram.

Система на базе ИИ создала точную виртуальную карту сосудов и нервов, позволила хирургам отрепетировать вмешательство в VR и накладывала 3D-снимки КТ в реальном времени. Благодаря этому сестёр с краниопагией удалось разделить без повреждения мозга, после чего черепа восстановили титановыми имплантатами.

Бывший ведущий специалист по безопасности Android уволился, опубликовав прощальное письмо. Он заявил, что компания утратила прежние идеалы, а причинами назвал военные контракты с США и новую стратегию в области искусственного интеллекта.

По данным NYT, число вакансий для экспертов по кибербезопасности на некоторых площадках выросло в 5—7 раз за полгода. Причина — распространение инструментов вроде Claude Mythos от Anthropic, которые находят уязвимости, но также могут использоваться для взломов. Компаниям требуются люди для проверки безопасности ИИ-кода.

Эти события подчёркивают важность осознанного подхода к внедрению ИИ. Компаниям необходимо учитывать вопросы безопасности, этики и готовности инфраструктуры, чтобы минимизировать риски и использовать преимущества технологий.