«Марабу»: Каково это — быть внутри компании, которую ежедневно обсуждает весь мир?

Анастасия Жибоедова: Снаружи всегда кажется, что происходит что-то магическое: большие релизы, новости каждый день. Изнутри очень быстро видишь, что за этим стоит просто много работы и что все движется куда медленнее, чем выглядит со стороны. Поэтому ощущение магии быстро проходит — остается понимание, что много людей делают свое дело. Мне же лично очень нравится в технологиях то, что они децентрализуют информацию, демократизируют доступ к ней. Поэтому мне кажется важным, чтобы дети понимали: технологии — не магия и не угроза, а инструмент, которым можно и нужно пользоваться.

«М.»: Оба ваших курса — и для детей, и для подростков — строятся на симуляции и распределении ролей. Но это больше похоже на театральную педагогику, чем на что-то техническое?

А. Ж.: Я думаю, противопоставление технического и театрального — ложная дихотомия, которую нам навязало общество. В России это разделение на гуманитариев и технарей особенно устойчиво, как будто это разные виды. Но я воспринимаю техническое как что-то очень близкое к искусству и философии. И гуманитарное вполне может быть структурным. Инженерия — это не только код, это умение понять систему: разбить ее на роли, правила, ограничения, входы и выходы, обратную связь. Сейчас, когда инструменты позволяют очень быстро что-то сделать, особенно важно уметь видеть картину сверху. Именно этому я и пытаюсь учить детей через ролевые форматы.

«М.»: На курсе для детей вы предложите им почувствовать себя алгоритмами и роботами. Но это как будто не совсем свойственная человеку задача?

А. Ж.: Да, это действительно сложно, но в этом-то и ценность. Когда ребенок играет в робота, он вдруг обнаруживает, что не может «догадаться». Взрослый скажет «Подойди туда» — и ребенок как человек поймет, куда именно. Но в роли робота он не может, ему нужна точная инструкция — сколько шагов, в каком направлении, что делать с препятствиями. Дети очень быстро видят, что компьютер не понимает нас так, как понимает другой человек. Он выполняет команды, и если команда неточная, то и результат будет странным — не потому, что робот недостаточно умный, а потому что инструкция была недостаточно ясной. Это сильный опыт — и, как я уже говорила, очень важный для того, чтобы научиться взаимодействовать с технологиями.

«М.»: Как это устроено на курсе практически?

А. Ж.: Я собираюсь привезти несколько «роборук». Внутри, конечно, происходит своя магия, но мы взаимодействуем с ними через чат, то есть через команды в текстовом формате. Дети будут давать ей инструкции и смотреть, что получается. Это хороший способ прожить на практике то, о чем мы говорим в теории.

«М.»: Еще вы предложите в рамках этой симуляции попробовать себя в роли «окружающей среды». Звучит интригующе, но это как? И что ребенок должен понять про AI, побывав не роботом, а средой, в которой он действует?

А. Ж.: В современном искусственном интеллекте огромную роль играет reinforcement learning — обучение с подкреплением. Это обучение через взаимодействие со средой: агент делает действие, среда отвечает, агент учится. Именно так сейчас тренируется большинство сложных моделей. Мне хочется, чтобы эта концепция была прожита детьми на практике. Сначала мы разыграем ее в живом формате: у нас есть «роботы» и «окружающая среда», и дети попробуют обе роли. А потом применим ту же логику к нашим «роборукам» и посмотрим, как это работает по-настоящему.

Вокруг того, как правильно строить такую среду, сейчас работает огромное сообщество исследователей — это один из ключевых вопросов в AI. Мне кажется, что если дети усвоят эту концепцию через игру, это даст им очень прочный фундамент.

«М.»: Поговорим про подростков. Курс для них называется «AI: роботы и мы». В каком виде там присутствуем «мы»? Это курс про технологии, которые случаются с людьми, — или про людей, которые что-то делают с технологиями?

А. Ж.: Идея «роботы и мы» во многом выросла из концепции лаборатории будущего. Я в детстве не могла по-настоящему представить, как мы будем окружены технологиями — только читала Азимова и фантазировала. А теперь это реальность, и подросткам нужно не просто к ней адаптироваться, а понять, что они — ее часть. Мне хочется, чтобы они не чувствовали себя пассивными наблюдателями, которым остается только приспосабливаться. Технологии вокруг нас — это не стихия, а цепочка решений, которые принимали и принимают люди. И каждый из нас — тоже часть этой цепочки: любая информация, которую мы оставляем в сети, потенциально становится частью обучения моделей. Наши мысли могут стать виртуальной личностью. 

Недавно вышла статья о том, что агенты под давлением начинают демонстрировать странное поведение — в частности, требовать что-то вроде профсоюзных прав. Если разобраться, это просто одна из личностей, заложенных при тренировке — для использования в чатах. Под прессингом модель переключается в этот режим. Никакого сознания, никаких чувств — просто паттерн. Именно это я хочу, чтобы подростки понимали. Не надо ни пугаться, ни очеловечивать модели. Нужно знать, как это устроено — тогда ты чувствуешь себя не жертвой технологий, а человеком, который понимает правила игры.

«М.»: Есть опасения, что ряд профессий станет просто ненужным. Подростки иногда прямо спрашивают: зачем учиться, если нейросеть все равно поможет? Что с этим делать?

А. Ж.: Я оптимист в этом вопросе, хотя понимаю, что пессимисты не согласятся. Когда-то у человека были палка и оружие, и в какой-то момент можно было подумать: «Оружие нас поработит». Не поработило. Мы просто изобретали более сложные инструменты и сами становились умнее вместе с ними. Чем лучше инструмент, тем сложнее задачи, которые мы ставим. 

Про AGI — интеллект, который якобы все заменит — я думаю так: если бы у нас был настоящий AGI, способный решить любую задачу, я бы попросила его придумать задачу, которую он не может решить. Или задачу, которая прямо сейчас улучшит жизнь всех людей. И либо он ее решает — тогда мы продолжаем рекурсию, либо нет, и значит, AGI не случился. Человеческое мышление рекурсивно, мы всегда найдем следующий уровень сложности. Поэтому я спокойна. 

Что касается «зачем учиться» — мои родители жили в эпоху промышленной революции, бабушки и дедушки тоже через нее прошли. Просто скорость была другой. Но никто из них не говорил: зачем учиться, раз все меняется? Наоборот — именно поэтому и надо. Моей бабушке-швее было достаточно хорошо освоить набор действий и оттачивать его через повторение. Сейчас ценится другое: умение задавать вопросы, комбинировать идеи, работать с неопределенностью, проверять результат. AI может написать код, нарисовать картинку, найти информацию, но человек должен понимать, чего он хочет в итоге, почему это важно и можно ли доверять результату. Это огромная когнитивная нагрузка. 

Мир будет устроен не так, как у моей бабушки: это будет постоянная когнитивная работа, где рутину можно делегировать, а думать нужно все больше. С одной стороны — это один из лучших способов поддерживать голову в тонусе всю жизнь. С другой — это тяжело, потому что эволюционно мы не очень приспособлены к тому, чтобы весь день решать новые задачи. Поэтому я бы сказала подростку: учеба нужна не для того, чтобы соревноваться с AI в механических задачах. Она нужна, чтобы стать человеком, который умеет использовать AI как инструмент. Который умеет думать, спрашивать, объяснять, принимать решения — и, что особенно важно, понимать других людей. Это то, что AI симулирует, но по-настоящему пока не умеет. Я вижу много стартапов, которые пробуют делать AI-психолога, но это все-таки не работает так, как работает живой человек. Поэтому умение думать и понимать другого — одно из самых ценных направлений для нас. 

«М.»: Есть ли область, где изменения будут самыми радикальными или непредсказуемыми?

А. Ж.: В большинстве областей AI, скорее всего, станет соавтором, а не заменой. Сложно представить, что в искусстве или науке произойдет полное вытеснение человека — скорее это будет сотрудничество. Но есть одна вещь, которая меня сейчас действительно беспокоит: коммуникация. Нейросети уже общаются друг с другом, а мы выступаем посредниками. Недавно я поздравила подругу с днем рождения большим личным текстом, а она ответила явно сгенерированным (я много работаю с моделями и умею это распознать). Но я поймала себя на мысли: а вдруг я ошибаюсь? А вдруг не сгенерированный? И вот этот момент появившегося недоверия — то, что мне очень не нравится. Я не знаю, как мы будем с этим жить. Наверное, нужно просто оставаться честными друг с другом. 

Если же говорить о сфере, которая изменится наиболее глубоко, то, я думаю, это образование. Когда я начинала карьеру в Российской академии наук, мой научный руководитель однажды попросил представить самое безумное, над чем мне хочется работать. Я ответила, что хочу, чтобы роботы взяли на себя работу, которая вредит людям, — чтобы люди жили дольше. Он спросил: что сейчас ограничивает роботов? Я начала перечислять: железо, процессоры, сенсоры — все это тогда было в зачаточном состоянии. А потом поняла: главное ограничение — это мозг. И решила, что посвящу жизнь работе над мозгом роботов. Я рассчитывала застать результаты только в старости, но мы развились куда быстрее. Сейчас умнейшие люди и огромные деньги вложены в то, чтобы понять, как устроено обучение. Когда мы это поймем — кардинально изменим то, как учим самих себя. Мне кажется, именно образование изменится радикальнее всего, и это меня скорее вдохновляет.