Суперинтеллект может появиться уже до 2040 года, но человечество до сих пор не имеет реалистичного плана безопасного перехода к этой эре. Такое мнение высказал сооснователь Ethereum Виталик Бутерин, комментируя дискуссию между сторонниками концепции AI 2040 и их критиками. Как писал UkrainianWall, Бутерин призвал не отдавать контроль над самыми мощными системами искусственного интеллекта в руки узкого круга корпораций.
По данным Incrypted, Бутерин обратил внимание на фундаментальное противостояние между двумя лагерями: одни прогнозируют появление суперинтеллекта (ASI) еще до конца этого десятилетия, другие считают современный AI обычной технологией без прорывного потенциала. «Если бы я был уверен, что современный AI — это обычная технология, то был бы среди критиков AI 2040. Если бы был уверен, что суперинтеллект по умолчанию появится уже к 2030 году, то был бы ближе к лагерю AI 2040», — отметил он.
Сам Бутерин признал, что не знает, какой из сценариев ближе к реальности, и остается открытым к идее временного замедления развития AI, если риски будут существенно расти.
Открытый код вместо корпоративной монополии
Наибольшее беспокойство у Бутерина вызывает модель, при которой контроль над самыми мощными системами AI остается у узкого круга организаций. «Мне очень некомфортно из-за тезиса "открытый код — это плохо, а хороший результат — это когда наши люди имеют глобальное доминирование"», — подчеркнул он.
Сооснователь Ethereum уже длительное время поддерживает концепцию d/acc (децентрализованного ускорения), которая предусматривает развитие технологий, способных усилить безопасность общества независимо от того, как будет развиваться AI. Среди ключевых направлений он назвал формальную верификацию кода, криптографию, безопасное открытое аппаратное обеспечение, биотехнологии для противодействия пандемиям, продовольственную безопасность и развитие механизмов проверки информации.
План действий: триггеры для замедления
Бутерин предложил заранее согласовать перечень объективных триггеров, после которых общество могло бы вернуться к вопросу замедления развития AI. Среди таких триггеров — чрезвычайные пандемии, резкий рост безработицы из-за автоматизации или другие масштабные угрозы.
По его мнению, это позволит вести дискуссию не на основе предположений, а опираясь на заранее согласованные критерии. В то же время Бутерин признал: универсального решения пока не существует. «Сейчас я не вижу ни одного плана перехода к эре суперинтеллекта, который не был бы наивным. Возможно, человечеству придется выбирать между наивностью и наивностью в квадрате», — сказал он.
Что это означает для обычных пользователей
Дискуссия вокруг открытого кода и децентрализации AI напрямую касается каждого, кто пользуется инструментами искусственного интеллекта. Если контроль над самыми мощными моделями окажется в руках 2-3 корпораций, это будет означать, что алгоритмы будут принимать решения о том, какую информацию видит пользователь, по закрытым правилам. Открытый код, на котором настаивает Бутерин, позволяет независимым исследователям проверять модели на предвзятость, ошибки и скрытые функции — то, что невозможно сделать с закрытыми системами вроде GPT.
Ранее UkrainianWall писал: МиГ-29 в обмен на технологии БПЛА: Косиняк-Камыш подтвердил возобновление переговоров.
Мы уже сообщали: 470 млн евро на дроны и защиту подстанций: ЕИБ впервые финансирует оборонные технологии.
