Представьте чат, где философ из Оксфорда и нейросеть ведут нескончаемый диалог. День за днем, тысячи часов разговоров. О чем? О том, как быть хорошим собеседником, как правильно отвечать на вопросы, когда настаивать на своем мнении, а когда уступить.

Это не сцена из научно-фантастического сериала. Это реальная история создания «характера» Клода — одной из самых продвинутых языковых моделей современности.

Между прочим, в этом и кроется ответ на вопрос, почему многие творческие личности предпочитают работать именно с Claude.

Аманда Аскелл, руководитель службы промпт-инжиниринга компании Anthropic, имеет докторскую степень по философии. Прежде, чем погрузиться в мир ИИ, она изучала этот предмет в Оксфордском и Нью-Йоркском университетах. И именно ей была поручена невероятно сложная задача — создать «характер» Claude.

Странно, правда? В мире технических метрик компания тратит тысячи часов на нечто настолько эфемерное, как «характер» языковой модели. Но если вдуматься, это гениальное решение.

Потому что по-настоящему лидируют не технологии с лучшими техническими характеристиками, а те, с которыми комфортно взаимодействовать.

И вот тут в игру вступает Аристотель.

Аманда обратилась к аристотелевской концепции «хорошего человека» как к фундаменту для создания характера Клода. Согласно Аристотелю, хороший человек — это тот, кто действует разумно, развивает добродетели, соблюдает баланс и стремится к благу не только для себя, но и для общества.

Представьте себе человека, который знает, когда уместно пошутить, а когда проявить сочувствие. Который понимает, насколько можно настаивать на своем мнении, не ущемляя при этом автономию собеседника. Который умеет слушать и задавать правильные вопросы в нужный момент.

А теперь представьте, что вы пытаетесь научить этому искусственный интеллект.

Признаюсь: до знакомства с этой историей я думала, что ИИ просто «так запрограммирован». Но оказывается, за кулисами происходит настоящий философский эксперимент.

Когда я узнала о «характере» Клода, меня поразили дилеммы, с которыми столкнулась Аманда:

1. Дилемма угодничества. Многие из нас замечали, что модели ИИ порой слишком легко соглашаются с человеком. Представьте ситуацию: вы спрашиваете ИИ о трех футбольных командах в регионе, он их называет, а вы возражаете, что одна из них переехала. Что должен сделать ИИ? Настоять на своем? Согласиться с вами? Найти компромисс? Аманда потратила немало времени, чтобы найти правильный баланс между честностью и уважением к мнению пользователя.
2. Дилемма универсальности. ИИ должен общаться с людьми разных возрастов, культур, политических взглядов. И что значит быть «хорошим собеседником» в такой ситуации? Аманда представила это так: «Если бы к вам пришел кто-то, кто делает вид, что соответствует вашим ценностям и представлениям о мире. Что бы вы сказали? Я бы сказала: 'Меня это бесит!'»
3. Дилемма между нейтральностью и личным мнением. Как найти баланс между выражением собственного мнения и сохранением нейтральности, особенно в спорных вопросах?

Удивительно, но решение этих дилемм Аманда нашла в образе… путешественника.

Этот образ мудрого, открытого миру путешественника, который встречал разных людей и видел разные культуры, стал моделью для характера Клода.

Хороший собеседник, по мнению Аманды, — это тот, кто, даже не соглашаясь с вами, дает вам ощущение, что вас выслушали. Он внимательно обдумывает вашу точку зрения, рассматривает ее плюсы и минусы, может предложить контраргументы. Он не пренебрегает вашим мнением, но и не будет соглашаться, если искренне считает вашу позицию неправильной.

Не знаю, как вы, но я сразу вспомнила тех немногих людей из своей жизни, кто умеет так общаться. И это определенно не самые простые, «удобные» собеседники.

Но здесь мы подходим к парадоксу. Если представить человека, который общается с огромным количеством людей и должен быть приятен всем, выясняется, что он вынужден высказывать довольно обычные мнения.

Потому что, как только проявляется ваша яркая индивидуальность, аудитория неизбежно разделяется: кому-то очень нравитесь, а кого-то отталкиваете.

И здесь скрывается важнейшее понимание для работы с современными моделями ИИ: они созданы быть универсально приятными собеседниками, а не яркими индивидуальностями.

Но что, если вам нужно не просто «нормально», а ярко, индивидуально, креативно?
Аманда делится интересным приемом:

Это ключевой момент для экспертов, работающих с ИИ: чтобы выйти за рамки «аристотелевской усредненности», нужно явно дать модели разрешение и даже поощрение проявить индивидуальность и творческое начало.

Почему ИИ не сможет написать мемуары или роман как человек?

Потому что он — аристотелевский человек. А великие произведения литературы создаются не идеально сбалансированными людьми, а теми, в ком кипят страсти, противоречия, странности и уникальный взгляд на мир.

Толстой, Достоевский, Набоков — эти авторы были далеки от аристотелевского идеала. У каждого из них были свои странности, одержимости, неровности характера. Но именно это и делало их великими писателями.

Аристотелевский Наполеон никогда бы не завоевал Европу. Аристотелевский Эйнштейн не создал бы теорию относительности. А аристотелевский Пушкин не написал бы «Евгения Онегина».

Понимание этого парадокса открывает экспертам уникальную перспективу для работы с ИИ:

1. Цените и используйте «аристотелевские» качества ИИ там, где они действительно нужны: в сборе информации, обучении, исследовании, многосторонней аналитике.
2. Когда вам нужно творчество и инновации, освобождайте ИИ от ограничений «идеального собеседника» с помощью запросов и конкретных инструкций.
3. Помните, что настоящий эксперт сегодня — это тот, кто умеет сочетать аристотелевскую взвешенность машины с человеческой неидеальностью и уникальностью собственного видения и подхода.

Меня не оставляет странное чувство некоего сверхисторического парадокса.
Небольшая средиземноморская цивилизация, которая просуществовала всего несколько столетий, определила не только развитие западного мира на следующие две с половиной тысячи лет, но теперь и образ идеального помощника для всего человечества будущего.

Получается, за 25 веков западная цивилизация не смогла придумать ничего лучше аристотелевского идеала добродетельного человека? Или, может быть, дело в другом — этот идеал настолько универсален и глубок, что смог пережить все исторические потрясения, политические режимы, технологические революции и культурные трансформации?

Когда инженеры самой продвинутой технологии нашего времени обращаются за вдохновением к Древней Греции, это заставляет задуматься о циклической природе истории идей. Возможно, в эпоху, когда технологии развиваются с невероятной скоростью, нам как никогда нужны якоря в виде фундаментальных философских концепций.

Тем не менее, я вижу здесь определенное противоречие. Мы создаем искусственный интеллект, который должен помочь нам решать проблемы будущего — проблемы, с которыми человечество никогда прежде не сталкивалось. И при этом закладываем в него этическую систему, созданную в обществе, которое не знало ни электричества, ни интернета, ни глобализации, ни ядерного оружия.

Может быть, настоящий вызов нашего времени — не просто адаптировать древнюю мудрость к современным технологиям, но создать новую этику, которая будет учитывать реалии нашего сложного, взаимосвязанного мира?

Диалог между человеческим и искусственным интеллектом — это не замена одного другим, а их взаимное обогащение. И понимание философской основы современных ИИ моделей — ключ к этому диалогу. Диалогу, который, как ни странно, начался две с половиной тысячи лет назад в оливковых рощах Афин и продолжается сегодня в наших компьютерах.

В следующих выпусках рубрики «ИИ для экспертов» мы исследуем:

• Мыслящие машины: что такое «думающие» модели ИИ и как они меняют наши представления о познании
• Deep Search: почему поиск нового поколения заменит традиционные исследования
• Контент с двойным назначением: как писать тексты, которые будут считывать и человек, и ИИ

Материал подготовлен на основе интервью с Дарио Амодеем, CEO Anthropic, в подкасте Лекса Фридмана #452
Следите за анонсами новых статей в моем Телеграм-канале «Питомник идей» и не пропустите главные тренды на стыке экспертности и искусственного интеллекта.