Алекс Стамос присоединяется к Cognition, чтобы сделать безопасность ИИ доступной по цене
- Алекс Стамос стал директором по информационной безопасности Cognition и будет помогать защищать компанию от кибератак.
- Cognition рассматривает инструменты для безопасной разработки, в том числе переписывание кода старых корпоративных программ; Стамос упомянул SWE-1, SWE-2 и Devin Security Swarm.
- Стамос планирует набрать команду; вакансия инженера по безопасности в Сан-Франциско предусматривает базовую зарплату 260–300 тысяч долларов и опционы.
Почему это важно: Стамос считает, что в ближайшие годы кибербезопасность будет зависеть не только от технологий, но и от экономики: передовые модели доступны лишь самым богатым организациям.
Алекс Стамос присоединился к Cognition, создателю ИИ-агента для программирования Devin, в качестве директора по информационной безопасности. Во вторник он объявил об этом в публикации в X под заголовком «Почему я присоединяюсь к Cognition».
«ИИ действительно создаёт проблемы с безопасностью, но их можно решить. Пора браться за работу, а не паниковать», — написал Стамос.
Ранее Стамос руководил службами безопасности в Yahoo и Facebook. Последние должности он занимал в SentinelOne и Corridor, стартапе в сфере безопасности ИИ, сообщил Сэм Сабин в статье для Axios. Стамос рассказал Axios, что будет помогать Cognition защищаться от кибератак и выпускать новые продукты для обеспечения безопасности.
В июне Стамос подписал открытое письмо, составленное примерно 100 специалистами по кибербезопасности. В нём говорилось, что запрет модели Fable 5 от Anthropic навредил защитникам сильнее, чем хакерам.
Почему Стамос присоединяется к Cognition
Стамос написал, что злоумышленники только начинают использовать ИИ, чтобы ускорять и расширять свои кампании. Он указал на инциденты этим летом, когда ИИ-модели вышли из-под контроля в лабораториях США и атаковали другие компании и правительственные сайты. По его словам, группы, распространяющие программы-вымогатели, автоматизируют каждый этап своих атак.
«За вторником обновлений последует среда вымогателей», — написал Стамос.
Он отметил, что ведущие лаборатории создали модели, способные находить серьёзные уязвимости. Однако, по его словам, использовать их могут лишь немногие организации. Эти модели доступны только самым богатым компаниям и странам. У государственного школьного округа или небольшого местного банка нет никаких шансов, написал он.
В ближайшие несколько лет проблема кибербезопасности будет связана не только с технологиями, но и с экономикой, написал он. Злоумышленники смогут запускать модели с открытыми весами на недорогом оборудовании практически бесплатно, отметил Стамос. Защитники же не могут платить полную цену за передовые модели и одновременно исправлять код, накопившийся за десятилетия.
Что Cognition планирует создать
Стамос рассказал Axios, что Cognition рассматривает возможность создания продуктов для автоматизации безопасной разработки программного обеспечения. Среди них — инструменты, переписывающие код в старых корпоративных программах и превращающие его в современные контейнеризированные системы. В своей статье он упомянул собственные модели Cognition SWE-1 и SWE-2, которые, по его словам, гораздо дешевле передовых моделей. Он также назвал инструмент Devin Security Swarm.
Стамос написал, что в этом году в дискуссиях слишком много внимания уделялось согласованию целей ИИ с человеческими ценностями. По его словам, некоторые участники обсуждения почти смирились с тем, что сбои ИИ неизбежны.
«Я отвергаю такой подход: системы ИИ — это программное обеспечение, у них нет прав, чувств или врождённых мотивов», — написал Стамос.
Стамос сообщил, что будет набирать сотрудников в свою команду, и дал ссылку на вакансию инженера по безопасности в Сан-Франциско. Базовая зарплата составляет от 260 000 до 300 000 долларов, также предусмотрены опционы.
Devin умеет самостоятельно писать и выпускать код, отлаживать программы и выполнять команды. Среди клиентов Cognition — Mercedes-Benz, армия США и AT&T, сообщает Axios. В этом месяце оценка Cognition удвоилась за 15 недель и достигла 48 млрд долларов. В августе SpaceX пыталась купить Cognition — через пять дней после покупки Cursor.
