AIの最高学会NeurIPS論文の著者に「理論が社会に及ぼす影響」についての説明を求め – GIGAZINE

人工知能（AI）と機械学習の分野の国際学会「NeurIPS「この会議に提出された論文の要件として「理論が与える広範な影響について」を追加しました。

NeurIPS 2020の広範な影響実験«統計モデリング、因果推論と社会科学
https://statmodeling.stat.columbia.edu/2020/12/21/the-neurips-2020-broader-impacts-experiment/

コンピュータ科学者が作ったのが与える潜在的な影響について、それが良い結果も悪い結果もバランスのとれた議論が必要であるとされています。 理論が与える倫理的な側面などを議論する方法は以前から検討されてきたが、「理論が社会に与える影響について」のような要件が設定されたのは今回が初めてです。 これは理論の影響についての議論がより積極的にすることができるようになると思われます。 NeurIPSがこれらの要件を設定したものについては、「アルゴリズムや数式は、倫理とはかけ離れている」は、従来の見解でコンピュータサイエンスの価値を大きく変えることを目的とした改革運動の一部という見方もあります。

しかし、「広範な影響」とは何なのか、どのように説明すれば要件を満たすという点については非常に基準があいまいです。公式FAQのページを参照すると、「広範な影響の説明は必須であるが、影響が理論的に予測可能な一般的なされている場合、または影響を与えることができない場合には、その旨を自由に記述できる」とします。

論文の審査にもレビューはあくまで「研究内容の影響が厳しく記述されているのか」を判断するものであり、「影響の善悪」について判断することはない説明もあります。 FAQページは、「研究内容が不当な偏見を作ったり、危害を加えることを目的とするのは、倫理的な観点から受領を拒否することができますが、研究内容は、将来社会にだけ悪影響をもたらすものでも樹齢は拒否する」と書かています。 しかし、倫理的観点から問題がある研究内容も一度審査し、厳格な審査の結果、受理されているものもあるとのこと。

NeurIPS主催で2020年12月6日から12日まで開かれた国際会議NeurIPS 2020で「広範な影響」の要件を満たしていないという理由で棄却された論文ではなく、審査の対象とされた倫理的に問題があるの論文は13件であり、その中棄却されたのは、4つのだけだったということ。 また、これらの要件を設定して、より議論を活性化させることで、逆効果の研究に従事し、研究者の心理的な支持がされたり、研究者が自分の研究内容の倫理的意味を知って、より責任感を持たせるために、大きな実験とした意見もあります。