「ソーシャル エンジニアリング」を取り戻すことがなぜ自律性を守ることができるのか

「ソーシャル エンジニアリング」というと、全体主義的な統制と限界的なパラノイアが満載の陰謀スリラーのような響きがあります。もっとありふれたものとしては、詐欺師が人々を操作して個人情報を暴露させるフィッシングやその他の詐欺に関連しています。

しかし、この概念は古く、より良性です。それは人間の行動を意図的に設計したものであり、多くの場合大規模です。それはシリコンよりも前から存在し、特にその実践者がそれを隠すことを覚えてからは、蔓延して制御不能になりました。独裁政権、そして最近では詐欺師や大企業がこれによって利益を得ています。悪意のある者から身を守り、ソーシャル エンジニアリングの良い面から利益を得るには、名前を取り戻し、慎重に管理する必要があります。

エンジニアリングのルーツ

1894年、オランダの起業家ジャック・ファン・メルケンは、保険、教育、従業員の利益分配などの人的システムを機械システムと同じくらい慎重に管理するために「ソーシャルエンジニア」を雇用するよう企業に訴えた。 15年後、宗教改革者ウィリアム・H・トールマンは次のような著書を出版した。 ソーシャルエンジニアリングアメリカの実業家が生産方法とともに労働者の条件をどのように最適化したかを描いています。実業家がオンデマンドで鉄鋼や電力を設計できるのであれば、なぜ社会そのものも設計できないのでしょうか?

1920 年代には、この信頼が広がりました。建築家ル・コルビュジエは、アパートは「住むための機械」であると宣言し、人々がベルトコンベア上の部品のように動き回る整然とした格子として都市を構想しました。文明はスイスの時計のように動くでしょう。

その考えはすぐに消えてしまいました。独裁政権はこれを極端に推し進め、「新しい人間」を形作ると約束した。ナチス・ドイツでは、エンジニアのフリッツ・トッドがトッド組織を設立しました。トッド組織は、アウトバーン高速道路網から発展し、後に奴隷労働を使用して強制収容所を運営した巨大な国営エンジニアリング企業です。

ソ連では、指導者らが米国の科学的管理手法を採用し、工場労働者の移動を計画し、集中記録を通じて人口を分類し、急速な工業化推進と強制労働強制労働制度の両方を促進した。高速道路の建設や 5 か年計画の運営に使用されたのと同じ管理ツールと手法が、大衆の弾圧と統制にも機能しました。

1950 年代には、「ソーシャル エンジニアリング」は汚い言葉になりました。ナチスとソ連による虐待の暴露と、壮大な社会計画に対する冷戦時代の批判により、この用語は進歩的なスローガンから警告ラベルに変わりました。言葉の追放によりこの慣行は地下に押しやられ、組織心理学やシステム管理など、依然として分類技術や行動的影響に依存しているが、よりソフトで負担の少ないラベルが付けられている組織心理学やシステム管理など、その慣行がいつ新しい形で再出現したのかを認識することが困難になりました。

ソーシャル エンジニアリングのより巧妙な広がり

戦後、新しい社会工学用語集には「人的要因」と「都市計画」が含まれ、それらはすべて命令ではなく統合を約束しました。コンピューティングが進歩するにつれて、言語は再び変化しました。インタラクションを追跡するための「カスタマー ジャーニー マッピング」と、インタラクションをスクリプト化するための「ユーザー エクスペリエンス」です。物理的空間を再形成する手段として始まったエンジニアリングは、行動を形成することに照準を合わせました。私たちのスマートフォンに組み込まれたデジタル デザイン機能は、現在私たちの注意と欲望を向けています。

言語は、こうした現代的な形態のソーシャル エンジニアリングを隠すのに役立ちます。 「データ分析」という言葉は、「追跡」と比べると中立的に聞こえます。 「パーソナライゼーション」は、ユーザーを予測可能なカテゴリに分類しながら、個性を補完します。 「行動の緊急性」は、侵入感を感じることなく意思決定を導きます。私たちは科学、資本、コミュニケーションにポジティブな修飾語として「ソーシャル」を付けますが、それが「エンジニアリング」と出会うと尻込みします。

この違和感がヒントになる。エンジニアリングは制御を意味し、制御は誰が誰を、何の目的に向かって、誰が所有するのかを問いかけるように促します。

最近のソーシャル エンジニアリングがすべて隠されているわけではありません。誰かがパスワードを教えても、ハッカーはファイアウォールを突破する必要はありません。ロマンチックな詐欺師は、農民が作物を栽培するように親密さを育みます。彼らは力ずくではなく、信頼を利用することで成功します。これらの明らかな攻撃さえ機能すれば、ソーシャル エンジニアリングに根ざした目に見えない種類の攻撃は弾丸となります。

私たちが遭遇するソーシャル エンジニアリングのほとんどは独自のものであり、私たちの制御を超えています。企業は、審問や控訴の権利なしに、エンゲージメントと利益を向上させるために調整された推奨アルゴリズムを構築します。デフォルトのブラウザと Cookie によって、当社が提供するデータが決まります。自動アクティベーションを 1 つ変更すると、ユーザーに何時間ものコストがかかり、不健康な習慣が身につく可能性があります。これらは、道路の敷設や選挙区の再描画などの意図的なエンジニアリング操作です。それらは、退屈が決して治まらず、決して満足感が得られない、ある種の貴重なかゆみを生み出します。結果は予測可能です – ユーザーはターゲットを絞った広告をクリックし、購入し、習慣を形成し、意見を固定します。

彼女とともに同意も変わりました。かつてはシンプルで取り消し可能でしたが、現在では微妙で永続的となり、デフォルトまたは不透明な利用規約に埋もれ、すぐに受け入れられました。道路や電気を拒否する自由と同様に、オプトアウトする自由も残ります。同意は、現代生活のあらかじめ選択された枠組みになっています。

ソーシャル エンジニアリングがより公然と機能していたとき、少なくとも対応力のあるガバナンスが備わっている社会では、市民がそれに対処できるようになりました。今日の目に見えないバージョンでは、説明責任が徹底的に分散されているため、精査を指示するのは困難です。若者のメンタルヘルスに対するソーシャルメディアの影響に関する最近の議会公聴会や陪審員らは、企業が故意に害を及ぼすアルゴリズムを設計していることに同意しているにもかかわらず、責任の所在を明らかにするのは依然として難しい。このメカニズムが数十億人が使用するシステム内に埋め込まれている場合、単一の意思決定者を簡単に指摘したり、操作の正確な瞬間を追跡したりすることはできません。

今日のソーシャル エンジニアリングは、以前のものほどあからさまで芝居がかったものではありません。以前のバージョンは、公開ポスターや拡声器で大勢の聴衆に向けて公開されました。今日のバージョンはより親密なもので、個人のデバイスと個人に合わせた定期的なフィードを通じて配信されます。このモデルが成功するのは、参加がコントロールではなく自由であると感じるからです。

すべてのソーシャル エンジニアリングがディストピア的であるわけではありません。手入れの行き届いた公園はコミュニティを育み、アクセシブルな建物は敬意を高め、ワクチンとシートベルトは命を救います。デジタル領域でも、隠れたトラッカーを自動的にブロックするブラウザ拡張機能、パーソナライズされた追跡プロファイルの構築を拒否する検索エンジン、ユーザーが自分のデータとフィードをより詳細に制御できる分散型ソーシャル プラットフォームなど、肯定的な例があります。

「ソーシャルエンジニアリング」という用語は依然として厄介です。しかし、人間への影響を完全に無視する「ソーシャル」エンジニアリングはさらに悪質です。エンジニアリングにおける人間の側面を認識することが修正の始まりです。機械をはっきりと見て、正直に名前を付けることによってのみ、誰が何を、なぜ設計しているのかを判断することができます。メカニズム自体は分解されません。彼の名前の後、彼は選択の対象になります。この目的、権力、プロセスに関する交渉は、真の民主主義を定義する政治的問題です。この言葉を避けている限り、ソーシャル エンジニアリングが社会に貢献し、社会を維持することを保証することはできません。