{"id":16674,"date":"2020-08-28T07:16:25","date_gmt":"2020-08-28T05:16:25","guid":{"rendered":"https:\/\/www.herr-rau.de\/wordpress\/?p=16674"},"modified":"2025-07-24T17:15:30","modified_gmt":"2025-07-24T15:15:30","slug":"ki-fast-alles-was-ich-darueber-weiss-teil-2-neuronen","status":"publish","type":"post","link":"https:\/\/www.herr-rau.de\/wordpress\/2020\/08\/ki-fast-alles-was-ich-darueber-weiss-teil-2-neuronen.htm","title":{"rendered":"KI: Fast alles, was ich dar\u00fcber wei\u00df (Teil 2: Neuronen)"},"content":{"rendered":"
(7 Kommentare.<\/a>)<\/small> <\/div>\n

Im ersten Teil<\/a> ging es um allgemeine Gedanken, diesmal will ich etwas konkreter werde. Der Ausgangspunkt war der: Ein Computersystem soll lernen, Muster zu erkennen, also f\u00fcr uns eine Reihe von Datens\u00e4tzen zu kategorisieren. Das k\u00f6nnen eine Menge als Farbwerte interpretierbare Zahlen sein, die das System als Ziffer erkennen soll:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Das kann ein Punkt in einem zweidimensionalen Koordinatensystem sein, bei dem das System entscheiden soll, ob der Punkt „links oben“ sein soll. Hier ist eine Darstellung von ein paar hundert solcher Punkte:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Genau genommen geht es nicht um Punkte, sondern um zwei Werte, x und y, von denen der erste eher klein und der zweite eher gro\u00df sein soll – „links oben“ ist nur die Kurzfassung. <\/p>\n\n\n\n

Diese letzte Art der Kategorisierung ist sch\u00f6n einfach, fangen wir mal mit der an. F\u00fcr die reicht n\u00e4mlich ein ganz einfaches Modell, das an eine menschliche Nervenzelle angelehnt ist.<\/p>\n\n\n\n

\n

Perzeptron<\/h2>\n\n\n\n

Eine Nervenzelle oder Neuron ist eine Zelle, die ein Signal empf\u00e4ngt und dieses dann an weitere Zellen weiterleitet, oder auch nicht – je nach St\u00e4rke der Eingangsreize. <\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

An den Dendriten kommen Signale von anderen Zellen an, hier sind es zwei, es k\u00f6nnten auch mehr sein. Je nachdem, ob an den Dendriten gen\u00fcgend starke Signale ankommen, diese also einen bestimmten Schwellenwert \u00fcbersteigen, wird \u00fcber das Axon ein neues Signal an die n\u00e4chste Zelle weitergeleitet. (Die Verbindung zwischen zwei Neuronen hei\u00dft synaptischer Spalt, an den Biologieunterricht dazu kann ich mich noch gut erinnern, und weil ganz viele, vor allem biologische Gifte die Signalweitergabe um den synaptischen Spalt herum blockieren.)<\/p>\n\n\n\n

Neuronale Netze als Algorithmus arbeiten ebenfalls mit Neuronen. Ein einzelnes Neuron hei\u00dft auch einfaches Perzeptron. Es funktioniert ein bisschen wie ein abstrahiertes biologisches Neuron und es kann schon eine ganze Menge.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Das Neuron ist nur ein bisschen mathematischer: F\u00fcr jeden Eingang gibt es eine Gewichtung, die mit dem jeweiligen Eingangswert multipliziert wird. Die Produkte werden zusammengez\u00e4hlt, und wenn sie gr\u00f6\u00dfer als ein bestimmter Schwellenwert sind, wird ein hoher Wert weitergeleitet (standardm\u00e4\u00dfig 0.99), ansonsten ein niedriger Wert (0.01). Ist die Gewichtung f\u00fcr einen Eingang 0, spielt dessen Wert f\u00fcr das Ergebnis keine Rolle, ist sie negativ, macht sie das Weiterleiten schwieriger, ist sie positiv, erleichtert sie das Weiterleiten – immer abh\u00e4ngig von den konkreten Eingangswerten. <\/p>\n<\/div>\n\n\n\n

Herumspielen mit einem einfachen Perzeptron<\/h2>\n\n\n\n

Weil ich mir das dann besser vorstellen kann, habe ich mir ein Programm gebaut und damit herumgespielt. Mein Neuron hat erst einmal nur zwei Eing\u00e4nge, damit man das grafisch in einem Koordinatensystem zeigen kann.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Die Position des gezeichneten Punktes stellt die Eingangswerte dar: x = 0.92443, also recht hoch, und damit ziemlich weit rechts, und y = 0.3325, also unteres Drittel. Die Farbe des Punktes, schwarz, stellt dar, dass das Neuron f\u00fcr diese Eingangswerte einen niedrigen Wert ausgibt, 0.01. Wie das Neuron zu dieser Entscheidung kommt, liegt an der Gewichtung und Bias, mit umgekehrtem Vorzeichen am Schwellenwert genannt: Die Produkte der Eingangswerte und der Gewichtungen werden zum Bias addiert (das deswegen bei mir meist negativ ist), und wenn das Ergebnis gr\u00f6\u00dfer ist als 0 (hier ist es: -0.35034), dann entscheidet das Neuron auf 0.99. Alle niedrigen Werte sind rot, alle hohen gr\u00fcn markiert.<\/p>\n\n\n\n

Wenn ich das mit 400 zuf\u00e4lligen Punkten mache, kommt das heraus:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Man k\u00f6nnte auch sagen: Dieses Neuron \u00fcberpr\u00fcft, ob ein Punkt eher links oben ist, vielleicht mit einem Stich nach Mitte oben hin. Das liegt an den Gewichtungen. Das gleiche Neuron zeigt bei anderen Gewichtungen ein ganz anderes Entscheidungsverhalten:<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Hier entscheidet das Neuron, ob die Punkte eher in der oberen H\u00e4lfte sind, wobei es bei gr\u00f6\u00dferen x-Werten (also dem ersten Eingangswert) ein bisschen mehr y-Wert verlangt (den zweiten Eingangswert) als bei niedrigen.<\/p>\n\n\n\n

Durch Herumspielen kriegt man heraus, welche Art Entscheidungen so ein Neuron grunds\u00e4tzlich zu treffen in der Lage ist: Alle Unterscheidungen, die anhand einer Linie quer durchs Koordinatensystem vorgenommen werden k\u00f6nnen. F\u00fcr manche davon muss der Bias-Wert allerdings positiv sein, etwa f\u00fcr „nur die linke H\u00e4lfte“: <\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Das w\u00e4re eine denkbare Aufgabe f\u00fcr Sch\u00fcler und Sch\u00fclerinnen: Finde heraus, welche Muster sich \u00fcberhaupt erzeugen lassen beziehungsweise welche Entscheidungen ein Neuron \u00fcberhaupt treffen kann. Und dann gibt man ein paar Muster vor und l\u00e4sst sie Werte suchen, die diese Muster erzeugen. Und dann m\u00fcssen sie erkl\u00e4ren, warum das so ist: Im Bild oben sieht man an der Gewichtung, dass der y-Wert gar keine Rolle spielt, er wird immer zu 0 umgerechnet. Der y-Wert wird mit negativem Vorzeichen versehen, bewegt sich also zwischen 0 und -1 – und wenn man dann den Bias abzieht, also 0.5 addiert, hat man eine 50%-Chance, \u00fcber 0 zu kommen.<\/p>\n\n\n\n

(Kann man nicht einfach den Bias negativ lassen und den y-Eingang mit +1 gewichten? Ausprobieren macht klug!)<\/p>\n\n\n\n

\u00dcbrigens: Bei drei Eingangswerten kann ein solches Neuron eine Unterscheidung machen zwischen allen Punkten, die getrennt werden durch eine Ebene, die ein dreidimensionales Koordinatensystem, also einen W\u00fcrfel, schneidet. Und so weiter in h\u00f6here Dimensionen, aber das l\u00e4sst sich alles schlecht zeichnen.<\/p>\n\n\n\n

\n

Hier das ganze als Video:<\/strong><\/p>\n\n\n\n

\n