That very article where the term “hallucination” popped up in conversations about neural nets. And in general, already in 2015 you’re hearing words like attention, reasoning, memory, and so on. This is just to say: the ideas are hella old, and the guys were in the topic a long time ago.
http://karpathy.github.io/2015/05/21/rnn-effectiveness/
Original (RU)
Та самая статья где появился термин «галлюцинация» при разговорах о нейросетях. Да и вообще уже в 2015 звучат слова attention, reasoning, memory и так далее. Это к тому, что идеи ой какие старые и в теме были ребята давно.
http://karpathy.github.io/2015/05/21/rnn-effectiveness/