Tone e20, un smartphone conçu par une entreprise japonaise, utilise l'IA pour empêcher les utilisateurs de prendre des photos
ou vidéos mettant en scène la nudité

L’entreprise japonaise Tone Mobile a dévoilé en février un nouveau smartphone un peu spécial. Connu sous le nom de Tone e20, le téléphone est boosté à l’IA (intelligence artificielle), qu’il utilise pour empêcher ses utilisateurs de prendre des photos ou d’enregistrer des vidéos qualifiées d’inappropriées (des photos ou vidéos mettant en scène la nudité). C’est le premier smartphone dans le monde capable d’une telle chose. Il est conçu pour les mineurs et utilise le système d’exploitation Android de Google. Son objectif est de prévenir les dommages du selfie en utilisant l’IA.

Selon Tone Mobile, son nouveau téléphone est conçu pour aider les parents souhaitant empêcher leurs enfants de faire de mauvais choix. Pour cela, il faut commencer par les empêcher d’utiliser leurs corps comme un simple objet qu’ils peuvent photographier à la volée. Le téléphone possède des caractéristiques plus ou moins nécessaires à un adolescent. Il tourne sur Android 9, a un écran de 6,26 pouces et a un espace de stockage de 64 Go. L’appareil photo est équipé de trois caméras et utilise un logiciel doté d’un système de protection basé sur un “filtre IA”.


L’idée est simple. Selon l’entreprise japonaise, lors de la prise de vue, si l’IA juge que le contenu est inapproprié, l’appareil photo se verrouille et le système de protection affiche une alerte pour environ deux secondes. Cependant, lorsqu’un utilisateur parvient quand même à prendre une nouvelle photo ou à tourner une nouvelle vidéo, le système de protection analyse le contenu et annule son enregistrement dans la galerie du téléphone s’il détecte de la nudité. Dans le cas contraire, la photo ou la vidéo est enregistrée comme d’habitude.

Tone Mobile estime que la caméra de son téléphone contribue à résoudre certains problèmes sociaux. Par ailleurs, le téléphone a une autre fonctionnalité appelée “famille”. Si elle est activée, elle permet d’alerter les parents lorsqu’une image “inappropriée” est détectée par le biais d’une notification. L’alerte contient une miniature de la photo concernée et des données de localisations. Selon l’entreprise, la miniature de la photo n’est utilisée que dans le cadre de la notification. Elle n’est pas stockée sur un serveur distant.

Le système de protection de la caméra du Tone e20 de Tone Mobile porte le nom de “Tone security AI”. Au-delà de cette fonctionnalité, le Tone e20 est un téléphone classique. En outre, l’entreprise n’a pas précisé si la fonctionnalité de protection pouvait être désactivée dans le cas où le Tone e20 est utilisé par un adulte. De même, rien n’a été mentionné sur ce qui est des photos ou des vidéos prises en utilisant les réseaux sociaux tels que Facebook, Snapchat ou Whatsapp. Tone Mobile n’a pas précisé si ces photos sont également filtrées ou non.

Dans le cas où les photos prises de cette façon ne seraient pas filtrées, ce serait un simple moyen de contourner la protection mise en place par Tone Mobile pour l’appareil photo du téléphone. Outre les médias sociaux, il existe d’autres applications photo indépendantes sur le Play Store que l’on pourrait utiliser pour prendre des photos. Selon les critiques, pour empêcher tout type de contournement de cette fonctionnalité, il faudrait que “Tone security AI” s’applique à l’ensemble du téléphone. Ainsi, il va aussi contrer l’usage des applications tierces comme Snapchat et ses messages éphémères.

Source : Tone e20

Et vous ?

Qu'en pensez-vous ?

Voir aussi

Le FBI a saisi Deep Dot Web, un important annuaire du Dark Web et a arrêté ses administrateurs

Pour lui arracher son nom de domaine, un influenceur des médias sociaux s'introduit chez le détenteur et le menace avec une arme à feu

Quels sont les sites Web qui ont été les plus visités dans le monde en avril 2019 ? Google, YouTube et Facebook conservent leurs places en tête

France : la « taxe YouTube » adoptée par les députés en dépit de l'avis défavorable du gouvernement