Computational Learning Theory (CoLT) ist ein Zweig der theoretischen Informatik, der sich mit der mathematischen Analyse des maschinellen Lernens befasst. Viele der frühen Ideen auf diesem Gebiet sind vom menschlichen Lernen inspiriert. Das Gebiet hat sich zu einer sehr rigorosen, mathematischen und präzisen Wissenschaft entwickelt, aber ich habe nicht gesehen, dass es direkt in den Kognitionswissenschaften viel verwendet wird. Es gibt eine indirekte Nutzung durch die Interaktion von CoLT mit Statistiken und maschinellen Lernalgorithmen (z. B. Analyse neuronaler Netze durch VC-Dimension ).
Gibt es Beispiele für rigorose Nutzungen/Anwendungen von CoLT, um Theorien in Psychologie, Neurowissenschaften und/oder Kognitionswissenschaften zu entwickeln?
Mir sind nur zwei Beispiele bekannt:
Theorem von Gold über die Unlernbarkeit im Grenzbereich bestimmter Sprachgruppen, darunter kontextfreie.
Masterarbeit von Ronald de Wolf über die Unmöglichkeit, PAC-lernen kontextfreie Sprachen .
Ersteres sorgte in der Stimulusarmut-Debatte für Aufsehen , zweites blieb von der Kognitionswissenschaft unbemerkt.
Ich interessiere mich für Ansätze dieser Geschmacksrichtung. Ich fühle mich mit CoLT relativ wohl, da es in Mathematik studiert wird, und interessiere mich (für diese Frage) nur für Ansätze, die einen direkten Bezug zu Theorien der menschlichen / tierischen Kognition / des Lernens haben, und nicht für klassische Ergebnisse des maschinellen Lernens. Ich suche nach allgemeinen mathematischen und asymptotischen Ansätzen , nicht nach dem Ausführen bestimmter Arten von Algorithmen (seien es neuronale Netze, bayesianische oder andere), um die menschliche Leistung zu simulieren, wie es für die Computermodellierung in Cogsci typisch ist (mit denen ich relativ vertraut bin). .
Ich interessiere mich nicht für Argumente, die versuchen, den gesamten Ansatz trivial zu unterlaufen, auch wenn sie empirische Gültigkeit haben. Zum Beispiel kann der gesamte Ansatz entgleist werden, indem behauptet wird, dass menschliche Gehirne endlich sind und daher asymptotische Argumente nutzlos sind. Dies ist dasselbe wie zu argumentieren, dass die gesamte Theorie der rechnerischen Komplexität sinnlos ist, weil Computer (und übrigens das gesamte Universum) endlich sind. Es ist ein gültiges empirisches Argument, aber aus Sicht der Theoriebildung langweilig.
Damit verbunden sind mehrere Arbeiten zur Integration oder Nicht-Integration von Rechenmodellen im Allgemeinen in die Kognitionswissenschaft. Zum Beispiel sagt die Tractable Cognition Thesis im Grunde, dass wir die kognitive Modellierung verbessern können, wenn wir kognitive Modelle auf diejenigen beschränken, die auf einer Turing-Maschine handhabbar implementiert werden können.
Van Rooij, I. 2008. The Tractable Cognition These. Kognitionswissenschaft 32:939-984. http://staff.science.uva.nl/~szymanik/papers/TractableCognition.pdf
Persönlich stimme ich der Tractable Cognition These nicht zu und denke, ähnlich wie Copeland, dass ein besseres Modell eine Oracle-Maschine wäre:
Copeland, J. 1998. Turings O-Maschinen, Searle, Penrose und das Gehirn. Analyse 58(2):128-138.
Meine eigene Arbeit geht diesbezüglich weiter und schlägt vor, wie O-Maschinen gezielt in die kognitive Psychologie integriert werden können. Ich halte hier eine Präsentation darüber und die Proceedings werden nächstes Jahr veröffentlicht, aber senden Sie mir eine Nachricht und ich kann Ihnen einen Entwurf zur Verfügung stellen, wenn Sie möchten.
In jüngster Zeit waren Bayes'sche Modelle der kognitiven Entwicklung sehr erfolgreich darin, zumindest Arbeitshypothesen darüber zu formulieren, wie abstraktes Wissen das Lernen und Denken aus spärlichen Daten "reguliert" und steuert. Ich dachte zum Beispiel an folgendes Papier:
Artem Kaznatcheev