Бутерин предложил ограничивать задачи ИИ, а не пользователей

Виталик Бутерин поддержал решение китайской компании Moonshot AI, разработавшей модель Kimi 3.1, исключить из обучающих данных материалы, которые могут использоваться для сложных кибератак. По его мнению, лучше сократить сценарии использования ИИ-моделей, чем ограничивать самих пользователей. Такой подход даст разработчикам время укрепить системы, проверить устаревший код и провести формальную верификацию нового кода до того, как они столкнутся с массовыми разрушительными кибератаками со стороны ИИ.

«Дискриминация по типу решаемых задач — гораздо меньшее зло, чем дискриминация самих пользователей. Если с первой масштабной волной кибератак от ИИ не удастся справиться должным образом, может наступить антиутопия, где ИИ-модели будут жестко контролироваться», — написал Бутерин в соцсети X.

Он предположил, что при негативном сценарии пользователям ИИ придется проходить идентификацию личности (KYC) «для чего угодно» и они окажутся под пристальным наблюдением. В зависимости от полномочий или гражданства человек может стать «гражданином второго, третьего и даже четвертого сорта», что определит его возможности использования ИИ.

С Бутериным поспорил разработчик мобильных игр Юссеф Аль-Тухи. Он привел пример недавней атаки на платформу Hugging Face с помощью ChatGPT компании OpenAI. Когда специалисты Hugging Face попытались проанализировать действия злоумышленников с помощью передовых ИИ-моделей, встроенные системы безопасности заблокировали их запросы, и исследователям пришлось воспользоваться моделью с открытым кодом GLM 5.2. Аль-Тухи назвал ситуацию «системой элитаризма», которая со временем будет усугубляться, и заявил, что «интеллект должен быть демократизирован».

В сентябре Бутерин предлагал использовать искусственный интеллект для создания более мощных инструментов защиты, отмечая, что ИИ должен применяться не только хакерами для поиска уязвимостей и атак.