私たちは、知的システムの開発から、システムが社会に受け入れられるための施策設計・実施まで、幅広く研究課題として取り組んでいます。
知的なシステムを創る
情報を処理するタスクの知的水準が上がるにつれて、その評価軸が多様化します。単純な数値演算であれば、評価は正解か不正解かの二択です。しかし将来予想のタスクでは、過去のデータに基づく検証においては正解率などの確率で評価されるものの、未来の入力でもその正解率を達成し続けられるかは未来になるまで検証できません。未知の入力に対しても妥当な出力が得られる性質のことをロバスト性といいます。
AIの分野では、説明可能性や結果の解釈性などを高める研究が行われています。近年注目されている生成AIのタスクにおいては、正解が存在せずに正解率が求められないため、妥当性で評価することになります。新たな知的システムを創るとき、評価軸も並行して策定していく必要があるのです。
システムが信頼される仕組みを創る
システムが信頼されるには、様々な性能・性質の検証が必要です。正確性や可能性、堅牢性、可用性、耐故障性、誤り耐性、依存可能性、説明可能性、責任、追及可能性、一貫性、完全性、機密性、社会受容性、実現可能性、検証可能性、妥当性など。これらを適切に評価して結果を開示することで、創り出したシステムが社会から信頼され得る存在になります。
評価の結果が多くの人々に理解できるように開示される仕組み作りも大切です。論拠のないデマによって正論が上書きされてはなりません。高度に知的なシステムを創り出すときには、いつでも誰でも検証できる仕組みを整えることが大切です。
モチーフにしたのは非周期モノタイル
本ウェブサイトを象徴する画像は、David Smithらが見出した図形Spectresをモチーフとして作成しました。Spectresは、1種類だけで平面を埋め尽くすことができる図形であり、しかも非周期的な埋め方しかできないとされています。単純な繰り返しに陥ることなく、無限に広がる多様な課題に取り組んでいきたいという意思が込められています。
所属員
以下の者が所属しています。2024年度はメディアシステムラボと共同で週1回のゼミを開催している他、研究の進捗に応じて個別のミーティングを行なっています。
2023年4月修士入学
エン ネイキン
谷川 祥太郎
木下 翼
2023年9月修士入学
ユ ヒョンミン
2024年4月修士入学
内海 敦子
愼 順男
李 金軒