実験室ではなく実際の企業の中で、生成AIの効果をランダム化比較で測った研究として、Cuiらの3つの実地実験を統合した論文があります。本記事では、その設計と結果を整理します。
研究の設計:3社・4,867人の開発者
研究では、Microsoft、Accenture、およびFortune 100に含まれる匿名の電機メーカー1社で行われた実験のデータを統合しました。各社では、開発者の一部にランダムにGitHub Copilotへのアクセスが割り当てられました。合計の対象者は4,867人に上ります。実験期間は各社で数か月にわたります。
結果:完了タスク数は平均26%増
統合した分析では、AIツールを使った開発者は週あたりの完了タスク数が平均で26.08%増えたと推定されました。経験の浅い開発者ほど導入率が高く、効果も大きい傾向が報告されています。一方、各社の実験単独では推定のばらつきが大きく、統合することで初めて明確な結果が得られた点も著者らは述べています。
読み方の注意点
測られたのは完了タスク数であり、成果物の質や長期的な保守性までを測ったものではありません。また、使われたのは当時のバージョンのツールです。2026年11月時点のツールに同じ数字を当てはめることはできませんが、実地でランダム化を行った研究として、方法面でも参照されています。
大規模な実地実験でも、効果は一様ではなく経験による違いが見られました。導入の際に誰から使い始めるかを考える材料として読める研究です。
この研究を読む際の前提
研究結果を実務に参照する際は、対象となった職種、課題の種類、使用されたモデルの時期という3つの条件を確認することが前提になります。実験や調査で測られた効果は、その条件のもとでの平均的な傾向であり、個々の企業や従業員の結果を直接予測するものではありません。また、短期の課題で測られた効果と、継続的な業務や組織全体の成果との間には隔たりがあることも、複数の研究を並べると見えてきます。本記事で紹介した数字は各研究の公表時点の情報に基づきます。最新の研究動向や原典の記述は、出典の一次情報をご確認ください。こうした前提を押さえた上で読むことで、数字の大きさだけに引っ張られない形で研究を参照できます。
なお、本記事は公表情報の整理を目的としたものであり、特定の製品や手法の導入を推奨するものではありません。条件の異なる組織への当てはめについては、各組織の業務内容や体制に照らした個別の確認が必要です。編集部では、続報や新たな公表があった場合は、その都度内容を確認してまいります。
出典:Cui, Demirer et al.「The Effects of Generative AI on High-Skilled Work」Management Science掲載論文(2025年版、MIT掲載の論文PDF)。https://economics.mit.edu/sites/default/files/inline-files/draft_copilot_experiments.pdf
※本記事の数字は各出典の公表時点の情報に基づきます。最新の内容は出典の一次情報をご確認ください。
あわせて読みたい
- 「論文紹介:Microsoft Research「Working with AI」、20万件のCopilot会話から作るAI適用度スコア」 https://axdx.aohalab.ai/#/article/97
- 「研究紹介:GitHub Copilotの初期実験が測った開発速度」 https://axdx.aohalab.ai/#/article/64