Эстер Дайсон много лет, с 2006 по 2022, входила в совет директоров Яндекса, общаться с ней всегда было увлекательно и полезно: она не просто очень опытный глобальный инвестор, но и реально глубокий эксперт по мировым технологическим рынкам и вообще большая умница.
Интересно прочитать ее свежий текст про ситуацию вокруг ИИ. Она особо выделяет, что языковые модели плохо понимают причины, стимулы и последствия своих действий. Поэтому для реальных решений им нужна связка с каузальными, логическими и символическими моделями мира, а не просто ещё больше данных, токенов и вычислений. Еще один голос в поддержку развития разнообразия моделей, а не только массовой ставки на все более мощные LLM.

Очень прикольно следить за интонациями автора статьи. С одной стороны, ощущается обида, что Китай вообще не пытается подхватить истерику "остановите ИИ, иначе он нас убьет”. С другой — надо же придумать этому вескую причину, и на роль такой причины назначают якобы настроения времен холодной войны, царящие в китайском руководстве. Их желание развивать ИИ напрямую сравнивают с желанием иметь достойный ядерный арсенал. Хотя в общем-то оба желания логичны.

Polls indicate that the country is among the nations most excited about the prospects of AI, and doomers are tough to find.

Изящный ответ на жалобы и вообще недовольство математиков последними достижениями ИИ в математике. Предмет недовольства в том — и это очень важная подробность — что доказательства ИИ формально верны (подтверждений тому все больше), но не способствуют пониманию сути дела людьми-математиками. (У меня все больше дежа-вю из времен побед AlphaGo: победы были неоспоримы, но играла машина не по-человечески).
В попытке сохранить диалог с математическим сообществом OpenAI объявила о создании консультационной группы, в которую войдут авторитетные, но достаточно лояльные к ИИ математики.

The group will advise on the review and communication of emerging results: they will help OpenAI assess their significance, advise on how to coordinate their dissemination, and advise on academic and professional standards of mathematical research.

Фронтирные лабы интересно пошли в офлайн. Вот только что OpenAI заявил, что займется роботами — и от Антропиков прилетела интересная ответочка: они, оказывается, завели себе классическую "мокрую", а не цифровую лабораторию для биологических исследований.

"We believe that to do biology, the final test is still and will be for a while in real lab work. We absolutely are doing that today, and I would describe our approach as being typical of what you would see in most biotech companies"

Опубликован очередной отчет по воздействию ИИ на рынок труда в США, непривычно спокойный и внятный, без типичных истерик. Основной мотив: ИИ распространяется по рабочим местам США быстрее любой прежней технологии, но его эффекты на производительность, занятость и зарплаты пока трудноразличимы в усредненных данных и крайне неравномерны. Подробно рассмотрены 4 сценария:
• постепенная интенсификация труда (ИИ как «обычная технология», эффекты медленные),
• концентрированные выгоды (рост у узкого круга, риск расслоения позиций и работников),
• значительное вытеснение (массовая потеря рабочих мест),
• неравномерный дизрапшн (потери в одних секторах, рост в других).

Метаверсище и ИИще

Вайб-инжиниринг.

Пока мы тут генерим чахлые 3Д-модельки, пригодные разве что для 3Д-печати, люди идут сильно дальше в физический мир.

И тут прекрасно все: мозги Астры, деньги кожаного, и инструкция по сборке.

Мустафа Сулейман, глава ИИ в Майкрософте, довольно жестко наехал на подход Anthropic (в котором Майкрософт заметный инвестор) к обучению Клода (в котором вопрос о сознании Клода сейчас или в будущем считается открытым) и обрушился на конституцию Клода.
Показательно, что произошло это сейчас, на фоне очередной волны “ИИ становится опасен”, запущенной именно Антропиками. Сама-то конституция была опубликована еще в январе, но глубоко возмутила Сулеймана именно сейчас. Он считает, что компания не просто изучает вопрос морального статуса модели, а на практике последовательно встраивает через Конституцию в обучение идеи о возможных чувствах, интересах, предпочтениях, идентичности и благополучии Клода — а затем рискует принять соответствующие ответы модели за независимое свидетельство. Разработчики сами формируют порочную петлю обратной связи.

Я сомневаюсь, что даже с помощью ИИ китайские исследователи написали работу именно в ответ на шоу “давайте затормозим ИИ — а Трамп не согласится”.
Но честно скажу, что пользы о чтения этой работы с очень говорящим названием The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement куда больше, чем от отслеживания и попыток интерпретации медийно-политической волны, поднятой Амодеи с компанией. И это китайское исследование удивительно попадает в контекст!
Представлено очень полезное структурирование реально происходящего с (само)улучшением моделей — и оно совсем не случайно сильно смахивает на давно официально принятую классификацию автономности автомобилей SAE J3016 (там формально 6 уровней: от L0 до L5, но 0 — это отсутствие автономности).