世界

Therac ‑ 25放射線事故：ソフトウェアの歴史における最も「致命的な」バグのレビュー、3人の死亡と6人の負傷を引き起こした医学的悲劇| T.C.com

ソフトウェアエラーは、多くの場合、クラッシュ、操作の誤り、またはデータの紛失を人々に思い出させますが、ご存知ですか？ 1980年代には、医療機器プログラムの脆弱性はすぐに発見されなかっただけでなく、少なくとも引き起こしたことさえありました 3人が死亡し、6人が重傷を負いました、世界的に最も早いものになります致命的なソフトウェアバグインシデント。 この災害の主人公は、呼ばれるモデルです Therac-25 放射線療法機。この機械はもともとがん患者を治療するように設計されていましたが、主要な設計上の過失により、歴史上、まれな医学的災害を引き起こしました。 Therac-25：革新的なデザインには保護がありません Therac-25は、2つの治療モードを組み合わせているため、1983年に発売されたときに革新的な動きとして歓迎されました。 両方の治療が必要です異なる用量とエネルギー出力、しかし、パターンが混乱している場合、結果は非常に深刻になります。 設計を合理化するために、Therac-25は、以前のモデルで一般的に使用され、ソフトウェア制御に完全に依存している「ハードウェアメカニカルインターロッキングデバイス」を放棄しました。言い換えれば、プログラムエラーが発生すると、エラーが発生しないようにする物理デバイスはありません。 バグメカニズム：人種条件と人間の操作が誤った殺害につながる カリフォルニア州立大学の修士課程の学生であるアン・マリー・ポレットのレポートによると、このソフトウェアの脆弱性は実際に古典的な「人種状態」から来ています。オペレーターがトリートメントモードをすばやく変更すると、ソフトウェアは前のコマンドの操作を完了しておらず、次のコマンドが送信され、エラースタッキングと保護の故障が発生します。 例えば： オペレーターは誤って電子ビームモードを選択し、X線モードにすばやく変更しました ソフトウェアはまだ以前の操作プロセスにあり、2つのモードが混合されます 電子ビームシールドは活性化されていないため、患者は高強度の放射線に直接さらされます このようなバグは、1985年から1987年の間に少なくとも6つの事故を引き起こしました。3人の患者がその場でまたは数日以内に死亡しましたが、他の3人は重傷を負い、永久的な負傷を残しました。 AECLには否定的な態度があり、米国FDAは最終的に調査に介入します メーカーAECL（Canadian Atomic Energy Corporation）は、最初にシステムに問題があることを否定しましたが、代わりにオペレーターを非難しました。 1986年まで、米国FDA（食品医薬品局）が調査に正式に介入し、真実が明らかにされ、完全なシャットダウンを修正する必要がありました。 最終的に、Therac-25は完全に中止され、医療機器の歴史の中で警告資料になりました。 Therac-25の後：医療ソフトウェアのセキュリティのターニングポイント この事件の後、医療機器業界とコンピューターサイエンスの両方の分野は、「ソフトウェアがセキュリティの中核である」という概念を再検討します。 Therac-25は、次の改革を促進する機会となっています。 すべての医療ソフトウェアを実行する必要があります正式な検証 保持する必要がありますハードウェアレベルのセキュリティ保護メカニズム ユーザー操作インターフェイスのエラー保護設計を強化します 書くエラーレコードとドキュメントをクリアして完了します Therac-25の物語は、医療、輸送、原子力などのリスクの高い分野で、ソフトウェアエラーは些細なことではありません。 AIシステムと自動化機器がどれほど正確であっても、悲劇の再発を避けるために、多数の検証と相互保護を受ける必要があります。 関連情報：https://www.cs.columbia.edu/~junfeng/08fa-e6998/sched/readings/therac25.pdf #Therac #25放射線事故ソフトウェアの歴史における最も致命的なバグのレビュー3人の死亡と6人の負傷を引き起こした医学的悲劇 #T.C.com