Ненадёжный рассказчик

Помню как меня в своё время поразила концепция «ненадёжного рассказчика» в литературе. До того я всегда безусловно доверял «закадровому голосу» книги, то, что он сообщал, я всегда принимал на веру.

Мне кажется, основная ошибка многих их тех, кто сейчас пытается найти в нейросетях какой-то новый разум или как-то в ней разобраться, в том, что они не понимают, что нейросеть — «ненадёжный рассказчик».

Это касается не только попыток понять что она «чувствует». Я вижу много примеров того (а скриншотами диалогов сейчас завален весь интернет) как люди, пытаясь разобраться в том как нейросеть, например, перемножает два числа, просто спрашивают её о том как именно она это делает.

Это очень наивный подход, — сеть ничего про это не знает, хотя бы потому, что этого не знает пока никто, и в корпусе текстов нейросети ответа нет. То, что она выдаёт в ответ на этот вопрос, — просто результат работы алгоритма, задача которого, — выдавать текст, максимально похожий на то, что ожидает прочитать человек.

Это всё, что она умеет, но надо признать, делает она это очень хорошо.