子供にスマホを持たせたいけど、怪しいサイトを見たり、知らない人とチャットしたり、要求されて自撮り画像を送ったりしてしまうといった児童ポルノ犯罪に巻き込まれないか心配…。
そんな、スマホを持たせる子供の親の不安を解決するためのペアレンタルコントロールAIアプリ「コドマモ」を実際に使用して使えるのか使えないか評価、設定方法や使い方をまとめました。
コドマモは子供を守るAIアプリ
「子どもがスマホを使うときの心配ごと」を解決するために、大学（藤田医科大学）や小児科医・臨床心理士、警察（愛知県警）とも連携して開発されているペアレンタルコントロールアプリ「コドマモ」。
コドマモは、従来のキーワードベースの検知方法ではなく、「AI」が高精度に自動的に危険なメッセージやわいせつな自撮り画像を検知して、犯罪から子どもを守ります。
保護者用と子供用のスマホにそれぞれ無料でインストールすることができて、簡単な設定をするだけで様々な制限をかける事ができます。
※2023年8月時点では「わいせつ画像検知」「位置情報の確認」「ながら歩きスマホ防止」「アプリ使いすぎブロック」が使用できます。
国内外のメディアが注目
ニューヨークの国連本部で開かれたイベントでも社会問題を解決するアプリとして紹介された。
警察もお墨付き
愛知県警察とも連携しており、実証実験で技術/PSFを検証し、県警からは「画像認識のAIなどが実用的なレベルになっている」とお墨付き。
アプリをリリースしたコドマモに対して、2023年4月に愛知県警察警からは感謝状が送られた。
県警としても「自撮り被害が相次ぎ、強い危機感を抱いていた。愛知県内の子どもたちに限らず全国で1人でも多くの人に使ってほしい」と期待を寄せている。
有名投資家も期待
2023年7月22日にリアル投資ドキュメンタリー番組「ANGELS」でコドマモをプレゼンしたYouTube動画が公開。
現在は投資会社も経営する元プロサッカー選手「本田圭佑」、世界が認めた天才・経済学者「成田悠輔」、投資家・実業家「中川綾太郎」の3名が出資者として参加し、3名全員が「コドマモ」に興味を持った。
本田圭佑が出資、成田悠輔も期待するコドマモ
プレゼンテーションの結果は、成田悠輔さん・中川綾太郎さんは、重要な社会問題の解決に期待するコドマモに興味ありとジャッジ。
自身も子供を持つ親である本田圭佑さんはコドマモに投資する決断した。
なぜコドマモが必要か？
平均8歳からスマホを利用
Googleによる2022年の調査において、世界の子どもがスマホを使い始める年齢が8歳（中央値）と言われています。
近年は子どものスマホ利用の低年齢化も伴って、子どもが使用するスマホが原因で、児童ポルノや事件に巻き込まれる危険性が高まっている。
児童ポルノ被害の4割が自撮り
日本でも10代の約4人に1人が、性的な自撮りを他人に送った経験ありと回答し、児童ポルノ被害のうち4割が自撮りによるものというIPAの調査結果があります。
（IPAとはITに関する振興を行う経済産業省が管轄する独立行政法人）
【IPA】2020年度情報セキュリティに対する意識調査
子どものスマホ利用に対する保護者の悩み
子供のスマホ利用の低年齢化や、どのような利用ルールにするのが良いのかが分からず、保護者は様々な悩みを抱えています。
どんなルールにすれば良いのかわからない…
子どもが性的な自撮りを送っていた…
SNSで誰と何を話しているか心配…いじめや犯罪に巻き込まれていないか…
スマホの利用の管理や注意するのに疲れた…
コドマモで子どもを犯罪から守る
子どもが犯罪に巻き込まれるといった社会問題や、親の不安や悩みを解消するたに近年ペアレンタルコントロールアプリが重要視されていて、AIを活用したコドマモには注目が集まっている。
評判・口コミ【高評価】
2023年8月時点でAppStoreの評価4.5、Google Playの評価4.3と高い評価
大学と警察共同で開発している安心感がある。子供をスマホデビューさせる際にGPSで居場所がわかるようにと導入したが、位置がわかって助かる。設定も簡単で親切設計。
簡単に操作できるので、携帯に不慣れな私でも問題なかったです。
コドマモで出来ること・機能
わいせつな自撮りの検知
子どもがスマホ上でわいせつな自撮りをしたら、AIが自動で検知。子どもに画像の削除を促すとともに、保護者の方に通知を送ります。今後動画にも対応予定。
もちろん性別問わず女児や男児でも検知されます。
位置情報の確認
子どもが今どこにいるのか、リアルタイムでチェックすることができます。
アプリ利用時間の管理
「ゲームやSNSを夜12時以降ロック」など、子どものスクリーンタイムを、保護者のスマホから簡単に設定。※Android版のみ、iPhone版は今後リリース予定
YouTubeやTikTokなどのSNSアプリの利用時間をワンタップで制限することができます。
歩きスマホの防止
事故につながる可能性のある、危険な歩きスマホから子どもを守るため、歩行中は特定のアプリをブロックできます。※Android版のみ、iPhone版は今後リリース予定
危険なチャットの検知
SNSのチャット・メッセージなどで、個人情報の流出やいじめ、犯罪に巻き込まれていないか、AIが自動でチェック。※2024年リリース予定
LINEやTwitter（X)やInstagramのDMなどのメッセージも検知して通知できます。
アンインストール防止
お子様のアプリのインストールやアンインストール、課金などに、保護者の承認を必要とさせることができます。※Android版のみ、iPhone版は今後リリース予定
メリット・デメリット
メリット
デメリット
子供のプライバシー、人権問題については、運営側としてもアプリを使う上で親と子供で話し合う事を推奨している。
スマホからコドマモを削除すると当然検知はできないため、子供が勝手にアプリを削除できないような標準機能にあるペアレンタルコントロールを併用する事を推奨します。
【iOS（iPhone）】ペアレンタルコントロール
【Android】ペアレンタルコントロール（ファミリーリンク）
使い方・設定方法
使い方の詳細はこちらの記事にありますのでご覧ください。
実際に使ってみた
スマホで自撮り画像や画像を保存
子供自らカメラで自撮り画像やSNSやインターネット等から画像を保存した際に、その画像がコドマモのAI検知でわいせつ画像と判断されると、子供のスマホにプッシュ通知が届きます。
コドマモ Kidsを起動すると、どの画像が不適切として判定されたかを見ることができます。
以下のスクリーンショットは、検証としてブラウザにてインターネットで検索して画像を保存したものですが、明らかな「わいせつ画像」ではありませんが、実際にAIで検出されたものです。
多少肌の露出が多い服や、水着といった写真でもAIによって検出されます。
子ども自身で、AIにて検出された画像をコドマモ上で削除することができます。
もし「これは不適切ではない」と検出に誤りがあると思う場合は、問題がある画像はないを選択することもできます。
リアルタイムで通知が来る
子供のスマホで不適切画像としてAIが検知すると、親側のスマホにもリアルタイムでプッシュ通知が届きます。
親側のアプリでは、通知画面から履歴を見ることができます。
親側のアプリでは、検出された画像がどのようなものかは、子どものプライバシーを配慮してわからなくなっています。
検出された画像が子ども自身で適切に処理されたかを、親側ではホーム画面で枚数として確認することができます。
「危険度 高」に残ってる場合は、子どもが気づかずに放置しているか、判断に困っているなど適切に処理できていない事を示しているので、その場合は親が子どもに直接確認するといった判断が必要です。
検出された画像が、安全と判断するかどうかは子どもに委ねられているため、実際に本当に安全かどうかは直接確認しないとわかりません。
しかし「検出された」という事は事実なので、親が知らない所で検出された場合は直接確認するといった事を、子どもと話し合うなどご家庭のルールを決めておくと良いです。
わいせつ画像の検知精度は優秀
試しに様々なパターンの画像で検証した結果、基本的に誰が見てもわいせつ画像だと判断するものは全てAIが検知してくれました。
明らかなわいせつ画像以外でも、洋服でも少し肌の露出度が高いものや、水着（ワンピースやスクール水着など）を着ている写真でも、写真にによってはAIが検出します。
水着姿でも検出されます
例えば、家族・友人等でプールや海水浴に行った場合など、子どもが水着姿の友人の写真を撮ったり、自撮りするなどでもAIが検出されます。
厳しく検知される一方で、子供の親としては個人的にこれだけ検知されれば、検知されないよりかは検知される方が安心感があります。
SNSで送った画像やメッセージを取り消す事はできない
LINEやSNSのDMなどで、直接アプリ上からカメラを起動して自撮り画像などを送るケースにて、カメラで写真撮影をしてスマホに保存された時点でコドマモに検知はされますが、相手に送信してしまうことを防ぐ事は出来ません。
子どもがSNSで送信してしまった不適切な画像やメッセージを、コドマモで取消や削除といった事は出来ません。子ども自身で送信取消や削除を行う必要があります。
コドマモで検知された画像は、スマホ上からは削除することが出来ますが、あくまでスマホの端末に保存された画像を削除するので、SNS上に保存された画像を削除は自分で行う必要があります。
スマホの画像は完全に削除されない
スマホではコドマモで検知された画像を削除しても、完全に端末から削除される訳ではありません。
iPhoneやAndroidといったOSの仕様上、写真アプリ上で「最近削除した項目」にしばらく保存されるため、完全に削除する場合は「最近削除した項目」から削除します。
【iOS（iPhone）】削除した写真を完全に削除する
【Android】写真や動画を削除する
AIを活用して子どもを守る
ペアレンタルコントロールは、親が子どものスマホ利用を縛る・監視みたいな印象がありますが、コドマモはAIを活用して犯罪から「子どもを守る」というのがで重要で、アプリの利用時間なども過度に制限するのではなく、AIが適切な利用時間を計算してレコメンドするといった使い方を提案します。
子どもがスマホを安心・安全に利用する事ができるようにするために「コドマモ」を使ってみてはいかがでしょう。
運営会社情報
| 運営会社 | Adora株式会社 |
| 代表 | 富田直人 |
| 設立 | 2023年7月 |
| 公式サイト | www.kodomamo.com |
| 公式X（Twitter） | @kodomamo_JP |
Q＆A
プライバシーは保護されていますか？
AIによる検知は端末上で完結するため、検知された画像は開発者を含め、いかなる第三者にも共有されません。オフラインでも検知は機能します。
無料で使えますか？
料金は基本無料です。
月額480円で有料サブスクリプション「コドマモ Plus」に加入できます。有料版でしか使えない「スマホブロック機能」など利用可能になり、今後も機能を追加予定
保護者は両親や複数人で使えますか？
家族へ招待機能があり、複数人で使用可能です。
検知するのは画像だけですか？
今後動画にも対応する予定です。
