DE69314107T2

DE69314107T2 - Optisches Gerät zur Informationsverarbeitung

Info

Publication number: DE69314107T2
Application number: DE69314107T
Authority: DE
Inventors: Michael Geraint Robinson
Original assignee: Sharp Corp
Current assignee: Sharp Corp
Priority date: 1992-05-11
Filing date: 1993-05-11
Publication date: 1998-03-26
Anticipated expiration: 2013-05-12
Also published as: DE69314107D1; GB2267165A; US5383042A; JP3707804B2; GB9210080D0; JPH0643957A; EP0579356B1; EP0579356A1

Description

Die Erfindung betrifft einen optischen Informationsprozessor. Ein derartiger Prozessor kann z.B. in neuralen Netzwerken oder anderen Anwendungen verwendet werden, bei denen Matrixvektormultiplikationen erforderlich sind.
Neurale Netzwerke beruhen allgemein auf Matrixvektormultiplikationen, bei denen "Querverbindungsgewichtungen" durch die Elemente einer Matrix definiert sind. Derartige Netzwerke haben verschiedene Anwendungen, z.B. auf dem Gebiet der Mustererkennung, wo sich herkömmliche Datenprozessoren als unwirksam oder ineffizient herausgestellt haben.
Neurale Netzwerke müssen dadurch auf eine spezielle Anwendung trainiert werden, dass Eingangsdaten eingegeben werden und die Querverbindungsgewichtungen variiert werden, um gewünschte Ausgangsdaten zu erzielen. Die zum Trainieren verwendeten Eingangsdaten repräsentieren einen Untersatz der Eingangsdaten, die das neurale Netzwerk korrekt verarbeiten soll, wenn es trainiert ist.
Für viele Anwendungen ist es erforderlich, über eine große Anzahl von Netzwerken mit einer entsprechend großen Anzahl von Querverbindungsgewichtungen zu verfügen, die während des Trainings aktualisiert werden müssen. Obwohl bekannte elektronische Realisierungen, wie geeignet programmierte herkömmliche elektronische Datenprozessoren möglich sind, erfolgt das Training im wesentlichen auf serielle Weise und ist daher sehr zeitaufwendig. Für große Netzwerke sind derartige elektronische Realisierungen wegen Querverbindungsbeschränkungen, insbesondere Beschränkungen hinsichtlich der Bandbreite, synaptischer Komplexität, des Energieverbrauchs und der Stiftanzahl integrierter schaltungen unzureichend.
Es ist bekannt, ein neurales Netzwerk mittels eines optischen Prozessors zu realisieren, bei dem die Querverbindungsgewichtungen durch optische Abschwächung in einem Raumlichtmodulator gebildet werden. Eine derartige Realisierung kann ein Netzwerk liefern, das schnelle parallele Datenverarbeitung bietet und wesentliche Vorteile hinsichtlich der Verarbeitungsgeschwindigkeit gegenüber elektronischen Realisierungen erzielt. Jedoch verursacht das serielle Aktualisieren der Querverbindungsgewichtungen bei derartigen bekannten Systemen eine nichthinnehmbar lange Trainingszeit, die proportional zum Produkt aus der Anzahl von Elementen der Eingangs- und Ausgangsvektoren in einem Matrixvektormultiplizierer ist.
M. Killinger, J.L. de Bougrenet de la Tocnaye und P. Cambon offenbaren in Ferroelectrics, 1991, Vol 122, S. 89-99, ein neurales Netzwerk, das parallele Aktualisierung von Querverbindungsgewichtungen erlaubt. Das Netzwerk umfasst drei Raumlichtmodulatoren (SLMS) zusammen mit Optiken und Lichtquellen. Der erste SLM wird optisch adressiert, und er enthält die Querverbindungsgewichtungen. Der zweite SLM kann optisch oder elektrisch adressiert werden, und er enthält den Eingangsvektor. Der dritte SLM wird optisch adressiert, und er speichert das Ergebnis einer Schwellenwertbildung des Vektormatrixprodukts aus dem Eingangsvektor und der Gewichtungsmatrix ein.
Während der Gewichtungsaktualisierung wird das Berechnungsergebnis optisch rückgekoppelt und durch den Eingangsvektor multipliziert. Das Ergebnis dieser Multiplikation wird optisch an den ersten SLM gegeben, um die Querverbindungsgewichtungen zu aktualisieren. So erfolgt die Aktualisierung optisch auf parallele Weise.
Diese Anordnung ist von beschränkter Anwendung, da die im dritten SLM eingespeicherte Ausgangsinformation nur optisch gelesen werden kann. Ferner kann diese Anordnung nur nichtüberwachtes Training ausführen, da sie nicht so trainiert werden kann, dass sie auf eine spezielle Eingabe hin eine vorbestimmte oder gewünschte Ausgabe liefert.
Gemäß der Erfindung ist ein optischer Informationsprozessor geschaffen, wie er im beigefügten Anspruch 1 definiert ist.
Bevorzugte Ausführungsformen der Erfindung sind in den anderen beigefügten Ansprüchen definiert.
So ist es möglich, einen optischen Informationsprozessor zu schaffen, der überwachtes Training ausführen kann und bei dem die Aktualisierung von Verbindungsgewichtungen wirkungsvoll auf parallele Weise ausgeführt werden kann. So ist die Trainingszeit stark verringert, und sie ist im wesentlichen unabhängig von der Anzahl von Querverbindungsgewichtungen. Die Verwendung eines optisch adressierten Raumlichtmodulators für die Querverbindungsgewichtungen beseitigt oder verringert optische Ausrichtungsprobleme während der Herstellung des Prozessors stark. Dadurch, dass dafür gesorgt ist, dass Lese- und Aktualisierungspfade optisch einander entsprechen und dass ein optisch adressierter Raumlichtmodulator verwendet wird, bei dem die optischen Abschwächungszellen durch Licht definiert werden, das auf den Modulator fällt, kann eine Selbstausrichtung erzielt werden.
Die Erfindung wird beispielhaft unter Bezugnahme auf die beigefügten Zeichnungen weiter beschrieben.
Fig. 1 ist ein Diagramm, das den optischen Datenfluss während der Verarbeitung für einen bekannten Typ eines optischen Informationsprozessors veranschaulicht;
Fig. 2 ist ein Diagramm ähnlich dem von Fig. 1, und es zeigt den optischen Datenfluss während der Verarbeitung und Aktualisierung für einen optischen Informationsprozessor, der ein Ausführungsbeispiel der Erfindung bildet;
Fig. 3 ist eine schematische Draufsicht eines optischen Informationsprozessors, der ein Ausführungsbeispiel der Erfindung bildet;
Fig. 4 ist eine schematische, perspektivische Ansicht des Prozessors von Fig. 3; und
Fig. 5 veranschaulicht einen Teil eines optischen Informationsprozessors, der ein anderes Ausführungsbeispiel der Erfindung bildet.
Der in Fig. 1 veranschaulichte bekannte Prozessortyp umfasst eine Eingabevorrichtung 1 in Form eines Raumlichtmodulators zum Codieren eines Eingangsvektors als eine Anzahl von Zellen, deren Lichtabschwächungseigenschaften den Komponenten des Eingangsvektors entsprechen. Derartige Komponenten können z.B. binäre Ziffern oder Analogwerte sein. Optische Strahlung, wie sichtbares Licht oder Infrarotstrahlung, durchläuft den Modulator 1 in Form eines kollimierten Strahls, und über geeignete Optiken oder Mikrooptiken 2 läuft es auf einen zweidimensionalen Raumlichtmodulator 3, dessen optische Abschwächungszellen die Werte der Elemente einer Gewichtungsmatrix repräsentieren. Durch jedes der Elemente des Eingangsvektors im Modulator 1 modulierte Licht wird "aufgefächert", um z.B. durch eine Zeile von Zellen des Modulators 3 zu laufen.
Das modulierte Licht vom Modulator 3 durchläuft dann weitere Optiken 4, und es läuft auf einen Ausgangswandler 5. Das Licht oder andere optische Strahlung wird in einer Richtung im wesentlichen rechtwinklig zum Auffächern vom Modulator 1 auf den Modulator 3 auf den Wandler 5 "eingefächert", so dass dieser Wandler 3 elektrische Ausgangssignale erzeugt, die die Elemente eines Ausgangsvektors repräsentieren, der das Produkt aus dem Eingangsvektor und der Gewichtungs- oder Querverbindungsmatrix repräsentiert.
Beim in Fig. 1 veranschaulichten bekannten Prozessortyp werden die Querverbindungsgewichtungen der durch den Raumlichtmodulator 3 repräsentierten Matrix während der Trainingsphase des Prozessors seriell aktualisiert, wenn er z.B. als neurales Netzwerk verwendet wird. So erfordert dieses Aktualisieren der Matrixelemente beträchtliche Zeit, und es entspricht im wesentlichen dem Produkt aus der Anzahl der Matrixelemente und der zum Aktualisieren jedes dieser Elemente erforderlichen Zeit. Ferner ist eine genaue optische Ausrichtung der in Fig. 1 dargestellten Vorrichtungen erforderlich, um korrekten Betrieb des Prozessors zu gewährleisten. Herstellschwierigkeiten und die Herstellkosten für den Prozessor sind daher beträchtlich.
Der in Fig. 2 dargestellte optische Informationsprozessor unterscheidet sich von dem in Fig. 1 dargestellten auf verschiedene Arten. Die Reihenfolge der Vorrichtungen ist so geändert, dass, während der Verarbeitung, die optische Strahlung durch den Raumlichtmodulator 3, der die Querverbindungsgewichtungs-Matrix repräsentiert, und über die Optik 4 zum den Eingangsvektor repräsentierenden Raumlichtmodulator 1 läuft. Wegen der kommutativen Art der Vektormatrixmultiplikation kann die Reihenfolge der Vorrichtungen 1 und 3 umgekehrt werden, ohne die Informationsverarbeitung zu beeinflussen.
Die modulierte optische Strahlung vom Modulator 1 durchläuft dann die Optik oder Mikrooptik 2 zur Ausgangsvorrichtung 5, die einen Wandler enthält.
Das Aktualisieren der durch den Modulator 3 repräsentierten Matrixelemente wird optisch mittels kollimierter optischer Strahlung erzielt, die in der umgekehrten Richtung läuft. Während der Trainingsphase berechnet die Vorrichtung 5 eine Abweichung, z.B. als Differenz zwischen dem Ausgangsvektor und einem Sollvektor. Die Elemente des sich ergebenden Abweichungsvektors werden dazu verwendet, einen Raumlichtmodulator zu steuern, der einen Teil der Vorrichtung 5 bildet, so dass der Abweichungsvektor während Aktualisierung die optische Strahlung moduliert. Die modulierte Strahlung durchläuft den Modulator 1, um das Produkt aus dem Abweichungsvektor und dem Eingangsvektor zu erzeugen, und dieses wird an den Modulator 3 gegeben, wo es dazu verwendet wird, die Matrixelemente parallel zu aktualisieren. Der Modulator 3 wird optisch adressiert, und die Aktualisierung jeder Zelle erfolgt entsprechend der auf die Zelle während des Aktualisierens treffenden Strahlungsmenge.
So werden die Elemente der Querverbindungsmatrix parallel aktualisiert, so dass die für jeden Aktualisierungsvorgang erforderliche Zeit im wesentlichen der Aktualisierungszeit für eine einzelne Zelle entspricht, unabhängig von der Anzahl der die zweidimensionale Matrix bildenden Zellen. Ferner sind dem Modulator 3 keine speziellen Ausrichtungsbeschränkungen auferlegt, da die einzelnen Zellen durch den Lichtfluss während der Verarbeitung und Aktualisierung definiert sind und die Lichtflüsse reziproken Pfaden folgen.
So sind die Komplexität und die Kosten der Herstellung im Vergleich mit einem bekannten Prozessor des in Fig. 1 dargestellten Typs stark verringert.
Das in Fig. 3 dargestellte Ausführungsbeispiel entspricht dem schematisch in Fig. 2 veranschaulichten, jedoch veranschaulicht es eine modifizierte und möglicherweise praxisgerechtere Anordnung für die optischen Pfade zum Verarbeiten oder "Lesen" und Aktualisieren von Strahlen. Obwohl kollimierte Strahlen erforderlich sind, sind diese in Fig. 3 schematisch als einzelne Strahlungspfade veranschaulicht.
Die Optiken 2 und 4 umfassen Strahlteiler für den Aktualisierungsstrahl bzw. den Lesestrahl. Die Anordnung der Modulatoren 1 und 2 und der Vorrichtung 5 sind ansonsten so, wie es in Fig. 2 dargestellt ist.
Während der Verarbeitung oder des Lesens wird der Lesestrahl 10 in den Strahlteiler 4, z.B. einen solchen vom Typ mit unterteilten Prisma, gerichtet, und er wird auf den Raumlichtmodulator 3 reflektiert, der die Querverbindungsgewichtungs-Matrix repräsentiert. Der Lesestrahl wird durch den Modulator 3 moduliert und entlang demselben Strahlungspfad und durch den Strahlteiler 5 auf den Raumlichtmodulator 1 für den Eingangsvektor zurückreflektiert. Das durch den Modulator 1 modulierte Licht läuft dann direkt durch den Strahlteiler 2 und auf die Vorrichtung 5, die den Ausgangsvektor entsprechend dem Produkt aus dem Eingangsvektor und der Gewichtungsmatrix erzeugt, wie durch die Modulatoren 1 bzw. 3 repräsentiert.
Während der Trainingsphase subtrahiert die Vorrichtung 5 den Ausgangsvektor von einem Solivektor, um einen Abweichungsvektor zu erzeugen, der auf einen Abweichungs-Raumlichtmodulator gegeben wird, der an der Oberfläche der Vorrichtung 5, die dem Strahlteiler 2 zugewandt ist, angeordnet ist. Während des Aktualisierens tritt der Aktualisierungsstrahl 11 in den Strahlteiler 2 ein und wird auf den Abweichungs-Raumlichtmodulator gerichtet, wo er durch den Abweichungsvektor moduliert wird, und dann wird er durch den Strahlteiler 2 auf den Eingangsvektormodulator 1 zurückreflektiert. Dann durchläuft der Aktualisierungsstrahl den Strahlteiler 4 und fällt auf den Raumlichtmodulator 3. Das vom Modulator 3 empfangene Licht repräsentiert so das Vektorprodukt aus dem Abweichungsvektor und dem Eingangsvektor, und es wird zum Aktualisieren der Gewichtungsmatrixelemente verwendet.
Der Raumlichtmodulator 3 ist ein optisch adressierter ferroelektrischer Flüssigkristall-Raumlichtmodulator, der mit einer Schicht aus amorphem Silicium und geeigneten Elektroden, um das Ausführen einer Aktualisierung zu ermöglichen, kombiniert ist. Die Bereiche des Raumlichtmodulators sind so durch die Konstruktion nicht festgelegt oder vordefiniert. Stattdessen werden die einzelnen die Matrixelemente repräsentierenden Zellen durch das auf die Vorrichtung 3 fallende Licht definiert. So sind keine speziellen Ausrichtungsmaßnahmen erforderlich, sondern die Vorrichtung 3 ist im wesentlichen mit den anderen Vorrichtungen des Prozessors seibstausrichtend.
Während des Aktualisierens der Matrixelemente fällt der zum Erzeugen der Abweichungsmatrix modulierte Aktualisierungsstrahl auf die amorphe Siliciumschicht und sorgt dafür, dass Elektronen in solche Bereiche freigesetzt werden, die der Strahlung ausgesetzt sind. Durch Anlegen geeigneter Potentialdifferenzen an die Schichten des ferroelektrischen Flüssigkristalls und des amorphen Siliciums werden Elektronen in den Flüssigkristall injiziert, um die Lichtabschwächungswerte der Zellen zu erhöhen oder zu verringern, die optisch definiert und adressiert wurden.
Der Eingangsraumlichtmodulator 1 umfasst, wie es in Fig. 4 dargestellt ist, eine ferroelektrische Flüssigkristallanzeige mit einer Vielzahl langgestreckter paralleler Elemente, die den Komponenten des Eingangsvektors entsprechen. Diese Elemente sind parallel zu einer ersten Abmessung des die Vorrichtung 3 bildenden zweidimensionalen Raumlichtmodulators ausgerichtet. Die Vorrichtung 5 umfasst auch eine ferroelektrische Flüssigkristallanzeige und einen optoelektrischen Wandler mit langgestreckten Lichtmodulationsund Wandlerelementen, die parallel zur anderen Abmessung der Vorrichtung 3 ausgerichtet sind. Jede der Vorrichtungen 3 und 5 kann als integrale Hybridvorrichtung unter Verwendung verschiedener bekannter Techniken hergestellt werden. Z.B. können die Wandlerzellen und die Elektronik der Vorrichtung 5 mittels einer VLSI-Schaltungstechnik hergestellt werden, wobei das ferroelektrische Flüssigkristalldisplay anschließend durch Hybridtechniken auf einer Fläche hergestellt wird.
Die Fig. 5 veranschaulicht schematisch einen Teil eines Prozessors vom selben Typ, wie er in den Fig. 3 und 4 dargestellt ist, jedoch mit einer Anordnung zum Ausführen einer Matrix-Matrix-Multiplikation. In Fig. 4 sind die Vorrichtungen 1 und 5 im wesentlichen eindimensional, und sie werden dazu verwendet, Vektoren zu repräsentieren oder zu lesen. In Fig. 5 sind diese Vorrichtungen durch zweidimensionale Vorrichtungen ersetzt, so dass der Eingangsraumlichtmodulator 21 eine Eingangsmatrix als zweidimensionales Array von Lichtabschwächungszellen repräsentiert. Die Ausgangsvorrichtung 25 umfasst entsprechend ein zweidimensionales Array von Raumlichtmodulatorzellen und optoelektrischen Wandlerelementen. Die Vorrichtungen 21 und 25 sind durch ein Array 26 kleiner sphärischer Linsen mit einer Vielzahl von Konvergenzimsen voneinander getrennt, von denen jede einer der Zellen des Eingangsmodulators 21 entspricht und mit dieser ausgerichtet ist und auch einem Unterarray der Vorrichtung 25 entspricht und mit diesem ausgerichtet ist.
Obwohl sich der optisch adressierte Raumlichtmodulator 23 hinsichtlich des Aufbaus nicht von der Vorrichtung 3 von Fig. 4 unterscheiden muss, bildet das Array 26 kleiner sphärischer Linsen das Unterarray über den Modulator 21 wirkungsvoll so ab, dass jedes Element des Modulators 21 einem Unterarray von Zellen des Modulators 23 entspricht und mit diesem ausgerichtet ist.
Der Lese- und der Aktualisierungsstrahl 30 bzw. 31 sind in Fig. 5 als idealisierte Strahlen dargestellt, um zu veranschaulichen, dass die optischen Datenströme den in Fig. 2 veranschaulichten entsprechen. Obwohl die Vorrichtungen 21, 25 und 26 ein Ausrichten während der Herstellung erfordern, ist der optisch adressierte Raumlichtmodulator 23 effektiv selbstausrichtend, so dass die Herstellung des Prozessors vereinfacht ist.

Claims

1. Optischer Informationsprozessor mit einem ersten Raumlichtmodulator (3, 23), der Verbindungsgewichtungsdaten aufnehmen soll, einem zweiten Raumlichtmodulator (1, 21), der Eingangsdaten aufnehmen soll, und einem dritten Raumlichtmodulator (5, 25), wobei der erste Raumlichtmodulator (3, 23) optisch adressierbar ist und der erste, zweite und dritte Raumlichtmodulator (1, 3, 5, 21, 23, 25) einen optischen Aktualisierungspfad zum Aktualisieren von Gewichtungsdaten aus dem dritten Raumlichtmodulator (5, 25) über den zweiten Raumlichtmodulator (1, 21) zum ersten Raumlichtmodulator (3, 23) bilden, dadurch gekennzeichnet, dass der dritte Raumlichtmodulator (5, 25) ferner eine optoelektrische Wandlereinrichtung, die mit dem ersten und zweiten Raumlichtmodulator (1, 3, 21, 23) zusammenwirkt, um einen optischen Verarbeitungspfad vom ersten Raumlichtmodulator (3, 23) zum zweiten Raumlichtmodulator (1, 21) zur optoelektrischen Wandlereinrichtung zu bilden, eine Verarbeitungseinrichtung zum Verarbeiten von Ausgangsdaten von der optoelektrischen Wandlereinrichtung sowie vorbestimmter Sollausgangsdaten zum Erzeugen von Abweichungsdaten, und eine Steuereinrichtung zum Steuern des dritten Raumlichtmodulators so, dass er während der Gewichtungsaktualisierung Abweichungsdaten enthält, aufweist.

2. Prozessor nach Anspruch 1, dadurch gekennzeichnet, dass die Verarbeitungseinrichtung so ausgebildet ist, dass sie die Abweichungsdaten als Differenz zwischen den Ausgangsdaten und den vorbestimmten Sollausgangsdaten berechnet.

3. Prozessor nach einem der Ansprüche 1 oder 2, dadurch gekennzeichnet, dass der zweite Raumlichtmodulator (1, 21) eine erste Flüssigkristallvorrichtung ist.

4. Prozessor nach Anspruch 3, dadurch gekennzeichnet, dass die erste Flüssigkristallvorrichtung (1, 21) eine ferroelektrische Flüssigkristallvorrichtung ist.

5. Prozessor nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass der dritte Raumlichtmodulator (5, 25) eine zweite Flüssigkristallvorrichtung ist.

6. Prozessor nach Anspruch 5, dadurch gekennzeichnet, dass die zweite Flüssigkristallvorrichtung eine ferroelektrische Flüssigkristallvorrichtung ist.

7. Prozessor nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass der erste Raumlichtmodulator (3, 23) eine dritte Flüssigkristallvorrichtung ist.

8. Prozessor nach Anspruch 7, dadurch gekennzeichnet, dass die dritte Flüssigkristallvorrichtung eine ferroelektrische Flüssigkristallvorrichtung ist.

9. Prozessor nach Anspruch 8, dadurch gekennzeichnet, dass die dritte Flüssigkristallvorrichtung eine Photoelektronenquelle und eine Vorspannungseinrichtung zum selektiven Injizieren von Elektronen von der Quelle in die ferroelektrische Flüssigkristallvorrichtung aufweist.

10. Prozessor nach Anspruch 9, dadurch gekennzeichnet, dass die Photoelektronenquelle amorphes Silicium aufweist.

11. Prozessor nach einem der Ansprüche 9 oder 10, dadurch gekennzeichnet, dass die Vorspannungseinrichtung eine Einrichtung zum Anlegen einer Potentialdifferenz an den ferroelektrischen Flüssigkristall der Vorrichtung aufweist.

12. Prozessor nach einem der vorstehenden Ansprüche, dadurch gekennzeichnet, dass der erste Raumlichtmodulator (3, 23) ein zweidimensionales Array von Elementen aufweist.

13. Prozessor nach Anspruch 22, dadurch gekennzeichnet, dass der zweite Raumlichtmodulator (1) eine Vielzahl langgestreckter, paralleler Elemente aufweist.

14. Prozessor nach einem der Ansprüche 12 oder 13, dadurch gekennzeichnet, dass der dritte Raumlichtmodulator (5) eine Vielzahl langgestreckter, paralleler Elemente aufweist.

15. Prozessor nach einem der Ansprüche 12 bis 14, dadurch gekennzeichnet, dass die Wandlereinrichtung eine Vielzahl langgestreckter, paralleler Wandlerelemente aufweist.

16. Prozessor nach Anspruch 12, dadurch gekennzeichnet, dass der zweite Raumlichtmodulator (21) ein zweidimensionales Array von Elementen aufweist, von denen jedes einer Vielzahl der Elemente des ersten Raumlichtmodulators (23) aufweist.

17. Prozessor nach Anspruch 16, dadurch gekennzeichnet, dass der dritte Raumlichtmodulator (25) ein zweidimensionales Array von Elementen aufweist, wobei jedes Element des zweiten Raumlichtmodulators (21) einer Vielzahl der Elemente des dritten raumlichtmodulators entspricht.

18. Prozessor nach einem der Ansprüche 16 oder 17, dadurch gekennzeichnet, dass die Wandlereinrichtung ein zweidimensionales Array von Wandlerelementen aufweist, wobei jedes Element des zweiten Raumlichtmodulators (21) einer Vielzahl der Wandlerelemente entspricht.