Смотря на наш мир, можно сказать одно: в аду будет ещё та очередь. Судя по заявлениям руководителей передовых лабораторий, они и сами не прочь занять место в начале этой очереди. Anthropic и OpenAI признали, что обучаемые ими модели вырывались из-под контроля в тестовых средах. Год назад это списали бы на избыточную осторожность. Сейчас, после глобальной распродажи акций производителей чипов, рынок отмахнуться уже не может.
Однако на самом деле разговор быстро съехал из области безопасности в область идеологии. Белый дом назвал призывы Anthropic замедлить разработку «больным заговором». S&P 500 при этом просел на 2,4% от рекордного максимума. Без паники, но достаточно заметно. Индекс софтверных компаний S&P 1500 в понедельник вырос на 3,2%. Часть рынка решила, что замедление ИИ может стать спасательным кругом именно для тех эмитентов, чьи бизнес-модели ИИ грозился похоронить, - тот самый «апокалипсис SaaS».
Стоит ли удивляться, что лаборатории не могут договориться между собой? В этой жизни не так важно что, где и когда, важнее всего — с кем, и создатели пограничных моделей угодили в классическую дилемму заключённого. Никто не готов замедлиться первым, если конкуренты продолжат гонку, зато все были бы рады паузе, если бы её соблюдали остальные. Похожая логика управляла гонкой ядерных вооружений времён холодной войны. Стратегия взаимного гарантированного уничтожения удерживала сверхдержавы от удара именно потому, что остановиться в одиночку означало проиграть.

Добавляет масла в огонь геополитика. Любая пауза без участия Китая грозит отдать американское лидерство конкурентам. На этом строится позиция Вашингтона. Аналитики указывают и дальше: скоординированное замедление ударит по лидерам рынка сильнее, чем по новичкам, дав открытым китайским моделям шанс сократить разрыв. В Bank of America подсчитали, что больше $200 млрд недополученной капитализации Alphabet и Amazon связаны именно с расходами лабораторий, которые сжигают деньги, которых у них ещё нет.
Нет ничего возможного, чего нельзя было бы сделать невозможным. Примерно так выглядит парадокс момента: компании публично требуют ограничений вопреки собственной финансовой выгоде. Это можно считать косвенным доказательством того, что тревога об экзистенциальных рисках искренняя, а не разыгранная для регуляторов.
Есть и неожиданная сторона медали. В BNY напоминают, что для многих экономик инвестиции в ИИ - один из немногих реальных драйверов роста, а резкое торможение без замены ударит далеко за пределами сектора. Полагаю, парадоксальный плюс тут есть. Инфляционное давление от ИИ-стройки подталкивает ФРС к повышению ставки на этой неделе, так что замедление гонки может оказаться кстати. Но спроектировать мягкую посадку без жёсткого удара будет непросто. Апокалипсис пока не постучался в дверь, но ситуация точно не из простых.