Avsnittsbeskrivning
In deze aflevering duiken Cees, Florian, Mitch en Daniel in nieuw interpretability-onderzoek van Anthropic: de J-space. Onderzoekers vonden een klein, apart deel van de interne activaties van LLMs dat zich anders gedraagt dan de rest van het netwerk — het model kan erover rapporteren, het op verzoek aansturen, en gebruikt het aantoonbaar voor redeneren in meerdere stappen.
Anthropic trekt de vergelijking met global workspace theory uit de neurowetenschap, wat onvermijdelijk de bewustzijnsvraag oproept. Wij bespreken wat het onderzoek wél en niet laat zien, en waarom het praktisch nuttig is…
Webbplats: podcasters.spotify.com