HIRAC FUND 公式noteに当社が掲載されました
2025年7月29日、HIRAC FUND 公式noteに当社代表・髙岡及び当社CMO・橋本のインタビューが掲載されました。
本記事では、当社のカスタマーサクセス職の特長や、AiCANサービスの導入による効果、今後の展望などについて語っています。
ぜひ、下記のリンクから詳細をご覧ください。
「すべての子どもたちが安全な世界」を目指すAiCANの挑戦！〜インパクトスタートアップで現場に伴走するCS（カスタマーサクセス）を紹介〜｜HIRAC FUND 公式note
品質の高いAIを開発し、それを活用して価値を生み出していくためには、さまざまな努力が求められます。例えば、ユーザーと協働した開発や、継続的な品質の管理、公平性などの倫理的な視点からの評価。子ども虐待対応という領域でサービスを提供するAiCAN社は、どのようなスタンスでAI開発に取り組んでいるのでしょうか。代表・髙岡に話を聞きました。
髙岡昂太／Kota Takaoka
教育学博士、臨床心理士、公認心理師、司法面接士。
児童相談所や医療機関、司法機関において、15年間、虐待や性暴力などに対する臨床に携わっている。
2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員（ブリティッシュコロンビア大学）を経て、2017年より産業技術総合研究所人工知能研究センター所属、主任研究員。2020年3月に株式会社AiCANを立ち上げ、2022年4月から同社CEOに就任。
ーー今日のテーマは「真に価値を生み出すAI活用の在り方」。髙岡代表は、以前登壇したシンポジウムでも話していたように、かねてより「AIは魔法の杖ではない」と警鐘を鳴らしていますよね。
児童福祉現場の深刻な人手不足と過大な業務負担を受けて、業務効率化のためにAIを導入する動きが、近年、急速に進んでいます。また、単純に職員の数が足りないだけでなく、2020年に勤続3年未満の児童福祉司が全体の半数を超える（※1）など、新人を育てるベテランの数が不足している状況下で、「人材育成」の観点でもAIへの期待が高まっています。
※1：厚生労働省 全国児童福祉主管課長・児童相談所長会議資料
令和2(2020)年度 児童相談所関連データ p13「児童福祉司・児童心理司の勤務年数」
児童福祉の現場が直面する課題が注目されることや、さまざまなソリューションが生み出されること自体はとても喜ばしいことです。その一方で、開発・導入が性急に進められているケースも少なくないのではないかと懸念しています。AIを活用したことで子どもの安全が危ぶまれるようではいけないし、作り方や使い方の問題で「やっぱりAIって役に立たないね」と思われてしまうのも、非常にもったいない。
もちろん、「AIも、使い方を誤れば毒にもなりうる」というのは、子ども虐待対応の現場へAI搭載アプリを提供している当社も抱えているリスクです。大切なのは「本当に現場にとって役立つ、子どもの安全に資するAI」を開発し、適切に活用してもらうこと。児童福祉の課題解決に取り組む者として、同じ立場の皆様とは、そういった前提や知見を共有していきたい。「AIは万能ではない」というのは、世間にも浸透してほしいなと思います。
どんなに良い薬にも、必ず副作用がある
ーー「使い方を誤れば毒にもなりうる」というのは、どのような意味でしょう？
薬に例えるとわかりやすいかもしれません。違法なものもあれば、医薬品もある。きちんと基準を満たし、効果も安全性も認められた医薬品にも、必ず副作用があって、用法・用量を守らなければ危険につながります。当社のデータサイエンティストは、よく、自動車を例に挙げています。すごく便利な移動手段だけど、人の命を奪うこともある。
問題は、現在のAI開発において統一的な安全基準が確立されていないこと、そして、そもそも「AIの危険性」に目が向けられていないことです。例えば自動車なら、交通事故の多さが啓蒙されていますが、AIに関しては、急速な技術の発展もあって「こんなことができてすごい！」という便利さばかり注目されているように感じます。
AIが判断を下すわけではなく、意思決定の主体は人間です。ハンドルを握って車を運転するのが人間であるように、AIを使うのもまた人間です。我々作り手が適切なAIを開発することはもちろん、使い手にも正しい知識が必要です。
ーーなるほど。「AIの危険性に目が向けられていない」とのことでしたが、具体的に、どのようなリスクがあるのでしょうか？
まず、AIはそれほど万能な存在ではありません。あくまでも、事前に与えられているデータ、事前に学習している情報からしか出力できません。わかりやすく言うと「このAIは10種類の情報についてデータを与えられているけれど、人間は11種類目の情報を重要視している」ような場合、「AIの結果はこうだけど、わたしたちの感覚と違うぞ…？」と違和感を覚えることもあります。
今お話した例は、AI開発において重要な観点の一つである「どのようなデータがどれだけ与えられているか」ですが、AiCAN社では、適切にAIを活用してもらうために以下の3つの仕組みが確保されることが大切だと考えています。
まず、1つ目について。例えば、「子どもが家に帰りたくないと言っている」というアセスメント項目（注：子どもや家庭の状態を評価するためのチェック項目）があったとして、同じ場面を見ていても、チェックをつける人・つけない人とばらつきが出ることがあります。「お家に帰る？」と尋ねても黙っている子どもを見たとき、ベテラン職員は「よく見ると手が震えているし、きっと家に帰るのは怖いんだろう」と思っても、新人は「帰りたくないとは言わないから、大丈夫かな」と思ってしまったり。
このような場合、「ユーザーによってアセスメントが適切に実施」されているとは言い切れません。当社の提供するAiCANアプリの場合、職員の方々が子どもや家庭の調査を進める中で、こういったアセスメント項目を入力してもらい、そこで蓄積されたデータからAIが作られることになります。より正しい示唆を導くAIを開発するには、そもそも信頼性の高いデータを集める必要があるので、アプリの使い方以前に、ユーザー様へ「アセスメント研修」を行っています。
また、AIの予測精度を維持するには、開発するとき・その一度きりだけデータを集めるというわけではなく、定期的にデータを与えていくことが重要です。これが、2つ目の「定期的にAIを更新する」こと。ここでいう「更新」は、変化していく状況に合わせて、学習させるデータを選別したり、適切な結果を出すためにモデルの調整を行なったりすることを指します。
例えば、子ども虐待の対応件数は年々増えているのに、保護所の定員が変わらないといった理由で、一時保護が行われた件数も一定の場合、毎年保護率が下がっていくのは当然です。それを「毎年保護率が下がっているから、保護が必要な重篤ケースは減っているんだな」と捉えてしまったらおかしなことになりますよね。間違った解釈をしないよう、そういった背景情報を含む「量と質の担保されたデータ」を蓄積していかないと、適切な結果を出力できるAIは作れません。
そして3つ目に、AIの出力結果を適切に活用してもらうことが大切です。例えば「再虐待通告が発生する確率が5%」といった結果が出たとき、出力結果が意味するのは言葉の通りなのですが、「総合的な危険性も低い」という印象や誤った解釈を与えてしまうことがあるかもしれません。
AiCANサービスでは、AIが出力する複数の指標について、その意味や解釈の仕方をユーザー様へレクチャーする研修会を行っています。また、定期的にワーキンググループを開催し、ユーザー様からもさまざまな意見や疑問点を共有してもらうなど、AIの作り手・使い手が二人三脚となって、よりよい活用の在り方を探っています。
過去から学ぶ手段として、AIがある
ーー薬も、どんな病気にも効く万能薬はないですしね。病気や症状に合わせたさまざまな薬があるし、服用する人によって用量も異なります。
そうです。AIといっても、なんのために開発されたAIなのかであったり、その裏側で動いている技術もさまざま。「薬を作りたい」というより「この病気や症状を治したい」から薬が開発されるように、僕らも「子どもの安全」を実現するソリューションとして、AIを開発しているに過ぎません。
我々が解析しているデータは、これまで職員の方々が対応してきた子ども虐待事例の蓄積であって、いわば人間の経験値です。そこから導き出されるAIの出力結果というのは、先人たちのアドバイスのようなもの。
子ども虐待対応に限りませんが「これさえすれば大丈夫！」みたいな絶対の法則はないので、過去のさまざまな事例から学び続けることで、同じ失敗を繰り返さないことが大事。その学びの手段として、AI技術がある。今後もっといい手段が見つかったら、必ずしもAIじゃなくてもいい。未来の子どもたちへ活かすために、これまでの経験を皆で共有し、学び合い、知見を引き継いでいけたらいいなと思っています。
ーーなるほど、先輩から後輩へと受け継がれていくような…。冒頭でも、人材育成が追いついていないというお話がありましたよね。
はい。非常に専門性の高い仕事なのに、教育研修の機会も十分に取れていないのが現状です。子ども虐待対応は本当に難しくて、保護者が「これは転んだ怪我」と言っていても嘘かもしれないし、支援に拒否的であったり攻撃的な保護者とも対峙しなければいけない。そして短い時間の中で、子どもの命に関わる重大な判断を迫られる。
そんな現場で奮闘してきた職員の方々の知見を、仕組み化するお手伝いをしたいんです。ベテランの暗黙知を、新人にもわかるような形式知へと可視化していきたい。「チェックリストの中に明示されていなかったけど、実は職員の方々はこんな観点を見ている」ことがわかったら、新たにアセスメント項目として組み入れて、データを溜めていくことができる。そこから、またAIがアップデートされていく。
これは、AIやアプリを導入したら解決！という簡単な話ではなくて。我々がやろうとしているのは、とても地道で泥臭い作業です。まずは現場の業務に寄り添って、どんなことをやっているのか丁寧に紐解いていく。現場の方々が培ってきたノウハウを言語化して、未来へ引き継いでいくプロセスに伴走することで、一緒に「子どもが安全な世界」を目指したい。だから、僕らのサービスは「伴走型業務支援」なんです。
当社のデータサイエンティストが口にしているのは「なんのためにAIを利用するのか。誰の幸せを願ってつくるのか」。農家の方が土壌作りからこだわるように、我々も開発の基盤を整備するところから、実際にシステムを利用するユーザーや、最終受益者である子どもに至るまで、全体と本質を捉えて開発と実践を進めていきたい。それがガバナンス、「責任あるAIを実践する」ということにつながるのだと思います。今後も、誠実に開発を進めていくと同時に、適切にAIを活用していただけるように、ユーザーの皆様を全力でサポートしてまいります。
（取材・文／Akane Matsumura）
当社の主要事業・AiCANサービスでは、自治体の子ども虐待対応を支援するAI搭載システムの提供に加え、ユーザーへの研修や業務改善提案を行っています。
インタビュー前編では、「AiCAN」という名に込めた想いや、サービスの根幹となる「データ」の価値についてご紹介しました。 後編では、AiCANサービスの詳細に迫ります。システム開発に留まらない伴走型サービスや、AIでわかることについて、たっぷり語ってもらいました！
髙岡昂太／Kota Takaoka
教育学博士、臨床心理士、公認心理師、司法面接士。
児童相談所や医療機関、司法機関において、15年間、虐待や性暴力などに対する臨床に携わっている。
2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員（ブリティッシュコロンビア大学）を経て、2017年より産業技術総合研究所人工知能研究センター所属、主任研究員。2020年3月に株式会社AiCANを立ち上げ、2022年4月から同社CEOに就任。
AiCANが目指す「判断の質向上」と「業務効率化」
ーーAiCANのAIは、どんなサポートをしてくれるのでしょう？
ひとことで言えば、「過去の似たような事例では、どのような対応だったのか」を教えてくれます。AiCANアプリに入力される内容には、子どもや親の年齢性別をはじめ、その他さまざまなチェックリストが含まれていて、AIは、それらを過去のデータと照らし合わせて「似たような事例」を探します。そして、その似たような事例の「保護率（どれくらいの割合で一時保護を行っていたか）」や、どんな対応をしたら何日くらいの「対応日数（相談を受けてから終結までの日数）」になるかを出力します。
保護率だけでなく、対応日数も一つの目安になります。予測された対応日数よりも短い日数で終結できそうな場合は、よほど効果的な対応ができた可能性もありますが、何か見落としているかもしれません。過去の似たような事例ではどれくらい時間がかかったのかという情報は、十分参考になります。
AIの計算はリアルタイムに動いていて、チェックリストのチェックが増減するなど入力内容が変われば、出力される数値も変動し、状況に応じた予測結果を知ることができます。
ーーAiCANを活用するメリットは、AI以外にもあるのでしょうか？
はい。AiCANの効果として「判断の質向上」「業務効率化」の2つを掲げていて、今お話したAIの部分が「判断の質向上」、もう1つのメリットがICT活用による「業務効率化」です。
子ども虐待対応では、通告を受ける、子どもや親の話を聞きに行く、保育園や学校など関係機関に連絡して情報を集める…と様々な役割や段階があり、それぞれが得た調査結果を共有して判断対応を進めますが、「調査結果を報告するのにも電話しか使えない」という場合もあります。また、記録類は紙の帳票が中心で、業務システムには一部情報しか保存されておらず、結局は膨大なファイルから探して過去の記録を見る…と、ICT活用が進んでいない自治体も少なくありません。
AiCANシステムでは、紙に記録する代わりに、タブレットからアクセスできるWebアプリへ入力します。移動中の車内や訪問先などスキマ時間も有効活用できますし、写真撮影機能を使えば、家庭の様子や子どもの怪我の状態なども、正確に残すことができます。電子決裁機能も搭載していますし、過去の記録についても、名前や担当した職員、時期などから容易に検索可能です。
チャット機能も、スムーズな情報共有に一役買っています。複数人でも簡単にやりとりができ、メモを取らずともログが残ることに加え、電話ができない環境で使えることもメリットです。事態は急を要するのに通話できない状況のとき、チャットで所長とすぐ相談でき助かった、という例もありました。
開発だけで終わらない、ユーザーと一緒に走り続けるスタイル
ーー「開発のみならず、継続的にサポートするワンストップサービス」とのことでしたが、詳しく教えてください。
はい。我々の仕事は、システムを開発して納品したら終わりではありません。むしろ、システムを導入して使いこなすまでが一番大変。特に、自治体はICT化が進んでいないこともあり、タブレット操作にも慣れていない方、新しいツールへの苦手意識が強い方も少なくありません。
AiCANサービスでは、導入時だけでなく、定期的に、操作方法などをご説明する研修会を実施しています。チャットやお電話によるユーザーサポートでは、「アプリに保存された内容の印刷ができない」といったお問い合わせにも丁寧にお答えしています。
また、「データを業務に活用してもらう」ことを大事にしていて、AI出力結果の読み解き方をレクチャーしたり、蓄積されたデータに基づいた業務傾向分析を行っています。業務傾向分析では、1つ1つの虐待事例ではなく、児童相談所や自治体全体の傾向を可視化してフィードバックしています。
ーー自治体全体の傾向というと、具体的にどんな分析結果が出るのでしょうか？
複数の児童相談所を持つ、とある都道府県があったとします。例えば、「その都道府県全体で、似たような特徴の虐待事例をピックアップしたときに、特定の児童相談所だけ保護率が低い」といった結果が考えられます。
このように児童相談所ごとの保護率の差が可視化されると「自治体共通の基準がないことで、見逃された子どもがいるかもしれない」という問題提起ができますよね。担当者や所によって判断対応にばらつきがある状態では、危険な状態を見過ごしてしまうかもしれません。データを活用することで業務の属人化を防ぎ、安定した支援へ繋げてもらえたら、と考えています。
あるいは「保護率が低い児童相談所は、他の児童相談所と比べてより重篤な事例が多い」など、業務が逼迫していて手が回っていない可能性も考えられます。人員不足などの問題も、数値として示すことができれば「職員何名の増員が必要」「子ども何人分の一時保護所増設が必要」など、具体的な政策提案も可能になります。
当社の提供するサービスは、児童福祉に携わる職員の支援ではありますが、見据えているのは子どもたちの安全です。「子どもの安全を守るために、安全が脅かされている子どもを見過ごさないために、どうすればよいか」、職員の方々と一緒に考えながら、課題解決を目指しています。児童福祉の現場に寄り添って、共に子どもたちの幸せを追求したい。これが我々の想いです。
ーーそれが「伴走者でありたい」というAiCAN社の姿勢なんですね。
はい。現場で奮闘する職員の方々と一緒に走りながら、PDCAを回し続けていきたいと思っています。また、そもそもAIという仕組み自体、一度作ったら終わりではなく「走り続ける」ことが大切です。時代の変遷とともに子どもを取り巻く環境も変わっていきますし、新たな虐待事例のデータが溜まっていくことで、AIもアップデートされます。
「One for all, All for one」というフレーズがありますが、AiCANになぞらえるなら「1つの事例が他の全ての事例の役に立つ、全ての事例が1つの事例の役に立つ」でしょうか。今対応している目の前の1事例も、データという経験値になって今後の役に立つ。そしてこれまで経験した全ての事例が、目の前の1事例に対応するためのヒントになる。
ただ、そのためには、どんなデータを集めるのかという「データの質」が重要。科学的かつ臨床的に意義のある…つまり、AIの精度向上に役立つだけでなく、子ども虐待対応の実務で有用となるデータを蓄積し続けることが大切です。弊社には、子ども虐待の研究や児童福祉の現場実務に携わってきた臨床心理士や、機械学習や統計解析など様々な分析手法を駆使するデータサイエンティストが在籍しており、その両面から子どもの安全に貢献していきたいと考えています。
ーーなるほど。今日は熱い想いを聞くことができました！最後にぜひ一言。
児童福祉のドメイン知識とデータサイエンス技術を併せ持つプロ集団として、児童相談所をはじめとする現場の方々と一緒に、子どもの安全を守っていきたいです。「すべての子どもたちが安全な世界に変える」というビジョン実現に向けて、これからも走り続けていきます！
（取材・文／Akane Matsumura）
当社の主要事業であるAiCANサービスについて知っていただきたく、CEO・髙岡自ら、たっぷり語ってもらいました。サービス名称の由来やデータを活用する意義など、盛りだくさんの内容を前後編にわたってお届けします。
髙岡昂太／Kota Takaoka
教育学博士、臨床心理士、公認心理師、司法面接士。
児童相談所や医療機関、司法機関において、15年間、虐待や性暴力などに対する臨床に携わっている。
2011年千葉大学子どものこころの発達研究センター特任助教、学術振興会特別研究員PD、海外特別研究員（ブリティッシュコロンビア大学）を経て、2017年より産業技術総合研究所人工知能研究センター所属、主任研究員。2020年3月に株式会社AiCANを立ち上げ、2022年4月から同社CEOに就任。
主体は人間。AIはアシストする存在
ーーAiCANサービスは、子ども虐待対応を支援するクラウドサービスだそうですが、具体的に何を？
子ども虐待対応を支援するAI搭載システム「AiCAN」の提供に加え、ユーザーへの研修や業務改善提案を行っています。ユーザーサポートや、AiCANシステムの利活用に関する研修、システムに蓄積されたデータの分析とフィードバックなど、業務改善のサイクルを回すためのサポートを全て含めて「AiCANサービス」と呼んでいます。
AiCANシステムは、タブレット端末から利用できるWebアプリ・クラウドデータベース・データ分析用AIから構成されているプラットフォームです。児童相談所や自治体の職員等、子ども虐待の対応にあたる人たちの利用を想定しています。ユーザーは、従来の紙や業務システムに代わり、AiCANアプリへ児童相談記録を入力します。入力された内容に応じてAIがリスク予測を行い、職員の判断をサポートする仕組みです。
ーー社名にもなっている「AiCAN」は、やはり「AI（人工知能）」から名付けたのですか？
「AI＝人工知能（Artificial Intelligence）」だと思われることが多いのですが、実は、AiCANは「Assistant of Intelligence for Child Abuse and Neglect」の頭文字なんです。「Assistant」という言葉に当社の想いを込めています。
「Child Abuse and Neglect」は、直訳すると「子ども虐待とネグレクト」ですが、日本では、ネグレクト（養育放棄、子どもにとって必要なケアを与えないこと）と虐待（身体的虐待・性的虐待・心理的虐待）を合わせて「虐待」と呼ぶことが多く、「子ども虐待」を意味します。
「Assistant of Intelligence」は、子ども虐待の対応をアシストする知能・仕組みという意味を込めました。Intelligenceは知恵などと訳されますが、「知識を応用し、新しい事態に対処する能力」を指します。経験を通して得た1つ1つの知識（knowledge）ではなく、それらが体系化された仕組みという意味です。
「職員の判断をサポートするシステム」と紹介している通り、AIが判断対応を決定するわけではありません。あくまでも、意思決定の主体は現場の人間です。我々の作るAIシステムは、データとして可視化された「現場の経験値」を用いて対応をアシストする、背中を押すような存在でありたいと思っています。
データは、血の通った人間たちの経験値
ーー「データとして可視化された、現場の経験値」というと？
経験値には成功体験と失敗体験の2種類があって、対応がうまくいけば「こういうやり方があるんだな」という引き出しが増えるし、失敗したら「これはやらない方がよいんだ」と覚えますよね。経験を血肉とするには振り返りが大切で、子ども虐待対応の現場でも、児童相談所の職員の方々がより良い対応について意見を交わし合う「事例検討会」という場が持たれています。
ただ、現場は、圧倒的な人手不足・急増し続ける虐待通告という非常に過酷な状況で、振り返りの時間を十分に取れないのも実態です。しかし、「どんな事例で、どんな対応をして、結果どうなったのか」という過去のデータがあれば、成功・失敗体験を蓄積していくプロセスを加速させることができます。
AiCANシステムでAIが出力するのは「似たような過去の事例のうち、何%くらいが一時保護していたよ」「今回と似ている過去の事例があって、当時こんな対応をしていたよ」というような情報です。つまり、現場の職員の方々が培ってきたノウハウを、データという形で見える化しているんです。
ーーまさに、「現場の経験値」そのものなんですね。
そうです。皆さん、尊敬している先輩や、血の通った人間からのアドバイスなら信頼できますよね。一方で、「データ」「AI」と聞くと「なんか冷たい感じ、ただの数字でしょ？」「ベテランの感覚も大事」と拒否反応を示されがちですが、実は、同じ血の通った人間の成功体験・失敗体験が蓄積されたものなんですよね。
我々は、現場で奮闘してきた職員の方々の経験や感覚をないがしろにしたいわけではなくて。むしろ、現場の知見を仕組みとして引き継いでいくために、AIという道具を活用してもらいたい。2020年には、勤続3年未満の児童福祉司（児童相談所に配置される専門職）が、全体の半数を超えました。人材育成が追いつかず、せっかくの「ベテランの経験」もなかなか引き継がれていないのが現状です。
「転んではできないような部位に叩かれたようなあざがあるけど、子どもに話を聞いても無表情で何も答えない」など対応の判断に迷う場面は多くあります。それが新人職員ならなおさらです。そんなときに「自分も危ないと思っていたけど、過去のデータから見ても危険性が高いな」とわかったら、自信を持てますよね？それこそベテランの先輩がアドバイスをくれるような…データは「先人たちの経験値」なので、もっと温かいイメージを持ってもらえたら嬉しいです。
インタビューは後編へ続きます
前編では、「AiCAN」という名に込めた想いや、AiCAN社のスタンスについてご紹介しました。
インタビュー後編では、AiCANサービスの詳細に迫ります。「AIでどんなことがわかるのか？」「開発だけで終わらないワンストップサービスとは？」などなど、盛りだくさんの内容です！ぜひお楽しみに。
（取材・文／Akane Matsumura）