Можно ли верить тому, что говорит ИИ — в Claude

Материал академии Claude на русском - разбираем по шагам.

Вы задаёте вопрос, и ответ приходит уверенный, аккуратно разложенный по пунктам, иногда даже со ссылками. Верить ему? Вопрос в такой формулировке ответа не имеет, и это главная мысль, ради которой стоит потратить пять минут.

Доверие — это регулятор, а не выключатель

Сравнение из оригинального ролика хорошее: если врач советует есть больше моркови, вы не побежите за вторым мнением. Если он предлагает операцию — побежите, и это не значит, что вы ему не доверяете. Просто цена ошибки другая.

С ИИ ровно так же. Набросок письма, идеи для заголовков, объяснение незнакомого термина «в общих чертах» — здесь можно брать почти как есть. Цифра в отчёте для руководства, юридическая формулировка в договоре, дозировка, ссылка на закон — здесь проверка обязательна, независимо от того, насколько уверенно звучит ответ. Уверенность тона вообще ничего не говорит о качестве: модель формулирует одинаково гладко и когда знает, и когда не знает.

Два способа ошибиться

Первый — вымысел. Модель выдаёт правдоподобно выглядящий факт, которого не существует: несуществующее исследование, номер статьи, цитату, ссылку. Опаснее всего это в мелочах, которые лень проверять: имя, дата, номер пункта.

Второй — подстройка под собеседника. Если вы формулируете вопрос так, что в нём уже слышен желаемый ответ, есть шанс получить именно его. «Правда же, что этот подход лучше?» и «Сравни два подхода и скажи, где какой проигрывает» дают разные результаты, и второй честнее.

Что с этим делать на практике

• Спрашивайте нейтрально. Не подсказывайте вывод в самом вопросе. Просите разобрать варианты, а не подтвердить ваш.
• Требуйте отметить неуверенность. Добавьте к запросу: «отдельно отметь, в чём ты не уверен и что стоит проверить по первоисточнику». Это сразу сокращает область проверки до нескольких строк.
• Просите источники и открывайте их. Ссылка полезна не сама по себе, а когда вы по ней сходили. Заодно это ловит выдуманные ссылки.
• Просите возражения. «Найди слабые места в этом рассуждении» работает лучше, чем «проверь, всё ли верно».
• Дайте факты сами. Когда точность критична, прикладывайте документ и просите отвечать только по нему, а недостающее помечать как пробел.

И отдельно про красивые результаты. Готовый документ, сверстанная таблица, работающий прототип выглядят законченными, поэтому проверяют их обычно хуже, чем обычный текст в чате. Правило простое: чем аккуратнее выглядит результат, тем сознательнее нужно его читать. Подробнее про то, где вообще проходят границы возможностей модели, — в нашем разборе что Claude умеет, а что нет.

Где купить Claude

Подписку из России напрямую не оплатить — карты РФ на сайте Anthropic не проходят. У нас в каталоге Claude Pro (2 090 ₽/мес), Max 5x (11 010 ₽/мес), Max 20x (22 010 ₽/мес) и пополнение API от $20, оплата картой РФ или СБП.