Это мой персональный дневник. Пишу, по большей части, про историю, свою жизнь и немного про программирование.

Ненадёжный рассказчик

Помню как меня в своё время поразила концепция «ненадёжного рассказчика» в литературе. До того я всегда безусловно доверял «закадровому голосу» книги, то, что он сообщал, я всегда принимал на веру.

Мне кажется, основная ошибка многих их тех, кто сейчас пытается найти в нейросетях какой-то новый разум или как-то в ней разобраться, в том, что они не понимают, что нейросеть — «ненадёжный рассказчик».

Это касается не только попыток понять что она «чувствует». Я вижу много примеров того (а скриншотами диалогов сейчас завален весь интернет) как люди, пытаясь разобраться в том как нейросеть, например, перемножает два числа, просто спрашивают её о том как именно она это делает.

Это очень наивный подход, — сеть ничего про это не знает, хотя бы потому, что этого не знает пока никто, и в корпусе текстов нейросети ответа нет. То, что она выдаёт в ответ на этот вопрос, — просто результат работы алгоритма, задача которого, — выдавать текст, максимально похожий на то, что ожидает прочитать человек.

Это всё, что она умеет, но надо признать, делает она это очень хорошо.

Ctrl ←GPT-0
2 комментария
Perigrin Puk 2023

Неплохой тред в тви про ChatGPT «для чайников»

Евгений Степанищев 2023

На мой взгляд, вот отличная статья: https://habr.com/ru/company/ods/blog/716918/ Похоже она написана по мотивам этого треда.

Sam Spiridonov 2023

Это тред по мотивам статьи :) Одни и те же авторы

Евгений Степанищев 2023

Я по картинкам понял, что авторы одни, но не понял где первоисточник )