Ненадёжный рассказчик
Помню как меня в своё время поразила концепция «ненадёжного рассказчика» в литературе. До того я всегда безусловно доверял «закадровому голосу» книги, то, что он сообщал, я всегда принимал на веру.
Мне кажется, основная ошибка многих их тех, кто сейчас пытается найти в нейросетях какой-то новый разум или как-то в ней разобраться, в том, что они не понимают, что нейросеть — «ненадёжный рассказчик».
Это касается не только попыток понять что она «чувствует». Я вижу много примеров того (а скриншотами диалогов сейчас завален весь интернет) как люди, пытаясь разобраться в том как нейросеть, например, перемножает два числа, просто спрашивают её о том как именно она это делает.
Это очень наивный подход, — сеть ничего про это не знает, хотя бы потому, что этого не знает пока никто, и в корпусе текстов нейросети ответа нет. То, что она выдаёт в ответ на этот вопрос, — просто результат работы алгоритма, задача которого, — выдавать текст, максимально похожий на то, что ожидает прочитать человек.
Это всё, что она умеет, но надо признать, делает она это очень хорошо.
Неплохой тред в тви про ChatGPT «для чайников»
twitter.com/Rational_Answer/status/1632629723267211264
На мой взгляд, вот отличная статья: https://habr.com/ru/company/ods/blog/716918/ Похоже она написана по мотивам этого треда.
Это тред по мотивам статьи :) Одни и те же авторы
Я по картинкам понял, что авторы одни, но не понял где первоисточник )