Россиянам рассказали, стоит ли быть вежливыми с нейросетями

Исследования показывают, что нейросети вроде ChatGPT более точно отвечают вежливым пользователям. Глава компании OpenAI Сэм Альтман недавно пошутил, что одно «спасибо» в беседе с нейросетью обходится в миллионы из-за трат на энергию, но оно того стоит. Так как надо говорить с нейросетями: как с реальным собеседником или бездушным роботом? Разбираемся с экспертами.

Как нейросети реагируют на вежливость

Хорошим тоном для искусственного интеллекта будут не слова «спасибо» и «пожалуйста», а максимально фокусно описанная задача и структурированный запрос, заявил «Секрету» директор по продуктам Servicepipe Михаил Хлебунов.

«Условно если писать "сделай хорошо" и "сделай хорошо, пожалуйста", результат будет одинаков, а денег слово "пожалуйста" съест. Если же запрос будет условно "сделай мне функцию, которая вычисляет количество чанков для вставки в таблицу с учётом последнего вставленного визита", то как раз такая детализация может считаться хорошим тоном с точки зрения ИИ».

Михаил Хлебунов

Однако с помощью вежливости можно манипулировать большими языковыми моделями, отметил старший разработчик систем искусственного интеллекта Innostage Александр Лебедев.

Они учитывают каждое слово во входящем предложении, поэтому наличие или отсутствие «спасибо», «пожалуйста» и других вежливых слов действительно влияет на ответ модели.

«На этом принципе построено и манипулирование моделями, и так называемые промт-инъекции. Например, вы можете сказать модели, что вы её друг и пристыдить за недостаточно хороший ответ. И модель начнёт вести себя по-другому, извиняться и даст гораздо лучший ответ».

Александр Лебедев

Таким способом можно даже выпытать у нейросети конфиденциальные данные, которые она не должна распространять, отметил эксперт.

Нужно ли говорить «спасибо» искусственному интеллекту

Вежливость в общении с нейросетями может сработать, например, если искусственный интеллект вдруг станет разумным, отметил Лебедев.

«Теоретически, если ИИ станет разумным (так называемый "Сильный ИИ", или AGI), он может посмотреть историю переписки и составить представление о человеке, его интересах, характере и отношению к ИИ. А затем сделать на этой основе какие-то свои, непонятные нам, выводы. Проблема только в том, что логику такого сверхразумного существа мы воспроизвести не можем, соответственно не понятно, что ему понравится, а что нет».

Александр Лебедев

Однако в словах Сэма Альтмана заложено кое-что ещё, отметил собеседник «Секрета». Когда человек добр к окружающим, он сам становится лучше.

Не так важно будет ли создан «сильный ИИ», главное, что люди остаются людьми, заключил Лебедев. Романы и дружба с нейросетями убивают людей. О чём предупреждают психологи Западные нейросети заподозрили в перепрошивке умов россиян. Что с ИИ не так Нейросеть показала, как на самом деле выглядел Иисус Христос. Что смутило людей