Главный научный сотрудник OpenAI в эссе «An Alien Mind» предупреждает: никто не готов к рекурсивному самоулучшению
OpenAI
Главный научный сотрудник OpenAI опубликовал 6 сентября 2026 года эссе, где утверждает, что внутренние результаты дают ему «твёрдые» основания ожидать, что текущий темп прогресса приведёт к рекурсивному самоулучшению, и пишет: «Меня беспокоит, что никто не готов к последствиям продолжительного быстрого роста машинного интеллекта». Он говорит, что OpenAI продолжит выстраивать защиту и может «в одностороннем порядке приостановить дальнейшее масштабирование, когда потребуется», но настаивает, что необходимы более широкие меры, выходящие за рамки саморегулирования лабораторий.
Почему это важно
Самый высокопоставленный голос за безопасность во frontier-лаборатории публично призывает к внешнему вмешательству, а не только к добровольной осторожности лабораторий.
Важность: 3/5
Публичное предупреждение о безопасности от главного научного сотрудника frontier-лаборатории