Therac-25

Therac-25 war ein Linearbeschleuniger zur Anwendung in der Strahlentherapie. Er wurde von 1982 bis 1985 in elf Exemplaren von der kanadischen Regierungsfirma Atomic Energy of Canada Limited (AECL) gebaut und in Kliniken in den USA und in Kanada installiert. Durch Softwarefehler und mangelnde Qualitätssicherung war ein schwerer Funktionsfehler möglich, der im Laufe von Juni 1985 bis 1987 drei Patienten das Leben kostete und drei weitere schwer verletzte, bevor geeignete Gegenmaßnahmen ergriffen wurden.

Dies ist einer der folgenschwersten Fehler in der Geschichte der Softwareentwicklung und ein oft studiertes Lehrbeispiel für Anforderungen an Software in sicherheitsrelevanten Bereichen.

Weiteres empfehlenswertes Fachwissen

Leitfaden für die Waagenreinigung: 8 einfache Schritte

Sicherer Wägebereich zur Sicherstellung genauer Resultate

Wie kann man Pipetten schnell überprüfen?

Gerät

Therac-25 ist ein Elektronen-Linearbeschleuniger, der entweder durch ein zwischengeschaltetes Wolfram-Target Röntgenstrahlen der Energie 25 MeV erzeugen kann, oder dessen Elektronenstrahl als künstliche Beta-Strahlung direkt therapeutisch eingesetzt werden kann. Im direkten Modus wird eine wesentliche geringere Brillanz eingestellt als im Röntgenmodus.

Die Vorgänger, Therac-6 und Therac-20, mit 6 bzw. 20. MeV Photonenenergie, waren nicht computerisierte Konstruktionen, bei denen die Sicherheitsmassnahmen durch mechanische Verriegelung und die Überwachung der Systemfunktion durch analoge Messgeräte realisiert waren. Ein Computer des Typs PDP-11 und ein VT-100 Terminal wurden später allein zur Erleichterung der Bedienung hinzugefügt.

Die Neukonstruktion Therac-25 ersetzte diese durch Sensoren, deren Messwerte vom Computer ausgewertet wurden und Aktoren, die unter Softwarekontrolle die verschiedenen Einstellungen ausführten. Ein Prototyp noch ohne die Computersteuerung wird 1976 fertiggestellt, die erste Serienmaschine 1982. 1983 wurde eine Sicherheitsanalyse des Geräts durchgeführt, die das Vertrauen in die Überlegenheit der Softwarelösung ausdrückte, da Software keinem Verschleiß unterworfen sei.

Fallgeschichte

3. Juni 1985, Kennestone Regional Oncology Center

Das Bestrahlungsgerät war hier seit sechs Monaten im Einsatz. Bei einer Bestrahlung mit 10 MeV Elektronen beklagte die Patientin, sie sei verbrannt worden, aber an der Bestrahlungsstelle waren zu diesem Zeitpunkt keine Spuren zu sehen. Dieser Vorgang wurde nie offiziell untersucht. Die Patientin klagte später gegen den Hersteller, nachdem Arm und Schulter unbeweglich wurden und chronische Schmerzen verursachten. Die Klage wurde durch einen außergerichtlichen Vergleich beigelegt.

26. Juli 1985, Ontario Cancer Foundation

Auch hier war das Gerät bereits über sechs Monate im Einsatz. Oft meldete es eine Störung mit der zusätzlichen Anzeige, dass keine Strahlungsdosis appliziert wurde. In diesen Fällen wurde routinemäßig eine Taste zur Wiederholung gedrückt. Bei einer Bestrahlung der Hüfte einer Krebspatientin passierte dies am 26. Juli 1985 viermal, danach schaltete sich das Gerät mit einer anderen Fehlermeldung ab. Die Patientin gab an, ein unangenehmes Gefühl wie bei einem Stromfluss gespürt zu haben. In der Folge entwickelte sich eine massive Schwellung an der bestrahlten Stelle, sowie ein brennender Schmerz. Nachdem die Patientin an ihrer Grunderkrankung gestorben war, ergab eine Autopsie eine Zerstörung des Hüftgelenks.

Der Hersteller und die Food and Drug Administration wurden benachrichtigt und AECL äußerte die Vermutung, ein ausgefallener Mikroschalter hätte zu einer falschen Positionsbestimmung des Wolfram-Targets geführt. Die Positionsbestimmung wurde überarbeitet, so dass ein einzelner Schalterausfall durch die Redundanz des Gesamtsystems keine Folgen mehr haben würde. Im Abschlussbericht zu diesem Vorfall erklärte die AECL, dadurch die Fehlerrate um den Faktor 10.000 gesenkt zu haben.

Das FDA stufte den Vorfall als "Class 2 Recall" ein, was bedeutet, dass es möglich, aber sehr selten sei, dass es zu einem ernsten Schaden für den Patienten kommt.

21. März 1986, East Texas Cancer Center

Der Patient empfand ein schmerzhaftes, elektroschockartiges Gefühl bei einer Bestrahlung des Rückens. Er stand auf, was unbemerkt blieb da die Audio- und Videoüberwachung des Bestrahlungsraums nicht aktiv war. Das Gerät zeigte Unterdosis an, die Bestrahlung wurde wiederholt während der Patient schon aufgestanden war und traf ihn an der Hand. Der Patient litt nach der Bestrahlung an Symptomen der Strahlenkrankheit, Lähmung beider Beine und eines Arms und verstarb nach fünf Monaten an den Folgen einer Überdosis.

11. April 1986, East Texas Cancer Center

Bei einer Gesichtsbestrahlung wegen Hautkrebs schrie der Patient auf und gab später an, einen hellen Blitz gesehen zu haben. Die Verbrennung durch die Strahleneinwirkung war so stark, dass sie olfaktorisch wahrnehmbar war. Der Patient verstarb nach nur drei Wochen und eine Autopsie ergab Läsionen des Stammhirns als Todesursache.

17. Januar 1987, Yakima Valley Memorial Hospital

Ein Patient verstarb nach drei Monaten an den Folgen einer Überdosis.

Ursachen

Strahlenquelle

Alle Vorfälle beruhten darauf, dass der Linearbeschleuniger mit der hohen Brillanz für den Röntgenmodus arbeitete, aber das Wolfram-Target nicht im Strahlengang war. Dies ist der gefährlichste mögliche Betriebszustand, der bei den Vorgängermodellen durch eine mechanische Verriegelung ausgeschlossen war. Die Strahlenbelastung in den sechs Fällen wurde nachträglich zu 40 bis 200 Gray (4.000 bis 20.000 Rad) abgeschätzt, eine normale Behandlung entspricht einer Dosis unter 1 Gray (100 rad). Eine Strahlenbelastung des gesamten Körpers mit 10 Gray gilt als sicher tödlich, für lokalisierte Strahlenbelastungen liegen wenig Erfahrungswerte vor.

Programmfehler

Der Computer des Therac-25 war zugleich für die Messwerterfassung und Steuerung des Geräts, als auch für die Benutzerinteraktion zuständig, durch Multitasking werden beide Aufgaben quasi-gleichzeitig erledigt. Das Kernproblem dabei ist die korrekte Synchronisation der beiden Prozesse. Diese war völlig ungenügend und funktionierte nur dann, wenn der Benutzer seine Eingaben relativ langsam macht. Nach einer gewissen Einarbeitungszeit können aber die Benutzer die Eingaben schneller machen, als der Therac-25 zwischen den verschiedenen Modi umgeschaltet werden kann. Dies führte in den meisten Fällen zu den Fehlermeldungen, denen keine Bedeutung zugemessen wurde.

Softwareentwicklung

Die Software wurde von einem einzelnen Softwareentwickler geschrieben, unter Verwendung vorhandener Teile, deren Programmierer nicht mehr für die Firma arbeiteten. Der Entwickler war zugleich für Tests zuständig.

Qualitätssicherung

AECL hatte reiche Erfahrung mit Sicherheitsabschätzungen und die notwendigen Analysen wurden mit gegebener Sorgfalt durchgeführt. Sie ignorierten aber völlig, dass Software fehlerhaft sein kann. Als mögliche Fehlerbedingungen, die das Computersystem berührten, wurden lediglich Hardwareausfälle und die Verfälschung des Hauptspeichers durch Alphastrahlen berücksichtigt.

Korrekturmaßnahmen

AECL, und teilweise das FDA, unterschätzen anfangs die Bedeutung der Vorfälle und die Anwender wurden mangelhaft informiert. Die Verantwortlichen für die Untersuchung und Bewertung der Vorfälle, hatten zu lange die Software als Fehlerquelle a priori ausgeschlossen. Die Korrekturmaßnahmen nach den ersten beiden Vorfällen wurden für wirksam gehalten, ohne einen kausalen Zusammenhang nachweisen zu können.

Literatur

• P. O'Brien, H. B. Michaels, J. E. Aldrich, J. W. Andrew, Characteristics of electron beams from a new 25-MeV linear accelerator, Medical Physics, Volume 12, Issue 6 (Nov 1985), pp. 799-805
• N. G. Leveson, C. S. Turner, An Investigation of the Therac-25 Accidents, IEEE Computer, Volume 26, Issue 7 (Jul 1993), pp. 18-41, ISSN 0018-9162
• M. H. Thomas, The story of the Therac-25 in LOTOS, High Integrity Systems Journal, Volume 1, Issue 1 (Feb 1994), pp. 3–15
• N. G. Leveson, Safeware, System Safety and Computers, Addison Wesley 1995, ISBN 0201119722