HOME社会基盤センター社会基盤センターについてメールマガジン事故の経験を社会の共有財産に(コラム)

本文を印刷する

社会基盤センター

事故の経験を社会の共有財産に(コラム)

イメージ画像1

468件。これは2010年から2019年までの10年間に収集した情報システムの障害事例の件数です。10年の区切りで、これまでに収集した事例から何が見えたか振り返ってみることにします。

468件の障害事例から見えたこと

1.大規模事故につながるクラウドサービス

イメージ画像2  かつては専用の設備を用いることが一般的であった重要な社会インフラシステムも、近年は共用のクラウドサービスを利用して提供されるようになってきました。様々なリソースを共同で利用することで、スケールメリットが得られる反面、障害が発生するとその影響が広範囲に及ぶ集中のもろさを併せ持っています。例えば、2019年8月に発生したアマゾンのクラウドサービスの障害(事例1945)では、PayPayやドコモバイクシェア、ユニクロ、日本ピザハット、スターバックスなど一説では60社以上のサービスに影響が及んだことは記憶に新しいものです。このような共同利用型サービスの障害は過去にも発生しています(事例1212,1214など)が、クラウドサービスの急速な普及に伴って、事故が急増していること、またその影響が国境を越えてグローバル化していることが近年の特徴と言えます。共同利用型サービスのメリットは大きいために、重要インフラなどの利用も増加していくと想定されますが、共同利用型サービスの提供者そして利用者がそれぞれシステムの高信頼化、サービスの可用性の向上にこれまで以上に取り組む必要があります。

2.生命を脅かすソフトウェアの事故

イメージ画像3  ソフトウェアの事故が人の命を危うくするなんて信じられない、と思う人は事例1016(2010年)をご覧ください。医療情報システムの不具合によって、医師の指示とは異なる注射、点滴、投薬が行われた事例です。幸い人命に影響はなかったようですが危ういところでした。また事例1705(2017年)では、臓器移植の患者選定システムに不具合があり、移植を待つ患者の選定に誤りが発生しました。しかもその誤りが1年以上も見逃され3件もの患者選定ミスが発生しました。

さらに、ロボットや飛行機、自動車などの組込みシステムの事故を考えると、利用者の身体、生命に直接危険をもたらすであろうことは容易に想像できます。航空機ボーイング737 MAXの悲惨な事故は制御システムの不具合が原因と言われていますし、これから普及が見込まれる自動運転車のソフトウェアの信頼性も大きな問題となります。ソフトウェアの信頼性を客観的に担保し必要な時にはそれを第三者に説明できることが開発者には強く求められ、さらに安全性に関する認証制度のような仕組みも必要になるかもしれません。航空機や医療機器などに対する型式認定に類するものが、ロボットや自動運転車などの組込みシステムに対して求められるのではないでしょうか。そのためには、アドホックな手法ではなく体系的な高信頼ソフトウェア開発方式が必要と思います。

3.ソフトウェア障害が起こすセキュリティ事故

イメージ画像4  ソフトウェア障害により個人情報など機微な情報が流出する事故の事例が増加しています。この10年で少なくとも14件の事例を見ることができますが、個人情報保護への関心の高まりとともに、このような事故が今後一層問題となることが予想されます。セキュリティ事故は、悪意を持った攻撃者によるものに注目が集まりがちですが、ここで示したようなシステムに潜在的に存在していた欠陥が、偶然何らかの理由によって顕在化し、意図しない情報の流出を起こしてしまうケースについても十分な注意が必要です。セキュリティ問題とシステム障害は、共に利用者の安全・安心を脅かす重大な脅威であることは同じです。情報システムの開発に当たっては、上流工程の段階からセキュリティ対策と高信頼化対策を車の両輪として、統一的な考え方と手法によって設計・開発・検証を行っていくことが必要ではないでしょうか。

情報収集の難しさと事故情報の公開への期待

IPAでは情報システムの中核であるソフトウェアの信頼性向上を活動の重点目標のひとつとしてきました。当初、日本の情報システムの信頼性の実態に関するまとまった情報はどこにもない状態でした。実態を知らずに実効性のある対策を打つことはできません、そこで始めたのがこの活動でした。日本の全国紙で報道された情報システムの事故の記事を手掛かりに、当該企業のプレスリリースや専門誌をチェックすることで情報を充実させる方法をとりましたが、このような方法では十分捕捉できない組込みシステムや海外の情報システムの事故は対象から外すことを原則としました。しかし、一部の地域にとっては影響が非常に大きい事故、運営主体が海外であるが影響が国内にも及んだものなど、必ずしも原則通りにはならないものもありました。これらは参考情報として付表に整理し、本文で説明するなどの工夫をしたものの、なお情報の一貫性には問題があると思われます。この点について、今後このデータを利用される場合には留意をお願いします。

ソフトウェアの事故をなくすためには、これといった決め手がある訳ではありません。不幸にして起きた事故について真摯に分析を行い事故原因やその事故処理の過程で得られた数々の教訓を蓄積して再発防止に生かしていくことが唯一の道です。しかし、事故の情報はなかなかオープンになりません。安全・安心な社会を作っていくために、一組織、一企業の利害を乗り越えて、事故の詳細情報を積極的に公開していくことは、重要な社会インフラである情報システムを運営しサービスを提供している企業やシステムの開発を担っている企業の社会的な責任ではないでしょうか。

失敗の経験を社会の共有財産にし、安全で安心な情報システムの実現に役立ていただきたい、これまでの活動がその一助になれば幸いです。

(筆者:松田 晃一)

<関連情報>

本件に関するお問い合わせ先

IPA 社会基盤センター 企画部 メールアドレス