機械に振り回されたくなければリテラシーを向上させよう！

ITproに掲載されていた「トレンドマイクロとヤフーの失敗から考える、アルゴリズム依存の功罪」という記事を読みました。

トレンドマイクロのウィルス判定アルゴリズムに問題があったことから、ウィルスとは全く無関係のソフトウェアが「危険なウィルスソフト」として「誤判定」されたことの顛末を伝える記事ですが、これは裏を返すと、ウィルス対策ソフトウェアといっても、結局は誰かが考えたロジックに従って、危険かどうかを判定しているというだけに過ぎず、この「誰かが考えた」ロジックに誤りがあれば、記事で取り上げられた例のように、まっとうなソフトウェアでさえ危険なウィルスとなってしまうし、また、本当に危険なソフトウェアであっても、安全なソフトウェアとして判定されてしまうということです。

この記事では、

アルゴリズム依存の時代だからこそ、「人による誠実な対応」がますます重要

と締めくくっていますが、まさにその通りで、ソフトウェアやハードウェアといった「機械」に面倒な作業や判定を任せるのは楽ですが、それらを過信し、全て任せてあるから安心と考えてしまう姿勢は、間違ったロジックに基づく機械の暴走を許し、それに振り回されてしまう素地を作ってしまいます。

機械は人をアシストしてくれる道具のはずなのに、いつのまにか人のほうが道具に振り回されるようになってしまう。これって滑稽ですよね。

「ウィルス対策のシステムを入れているから大丈夫だと思ったのに・・・」などと溜息をついてしまうようなことが訪れることのないよう、システムを使う「人」のリテラシー向上も、リスクマネジメントのひとつとしてしっかりと考えていく必要があるようです。