Apple prend position contre la manipulation d’images par l’IA

Fiabilité
À RETENIR

  • Apple veut s'assurer que les photos transmettent des informations exactes, non de la fantaisie.
  • La fonctionnalité Clean Up a été intégrée à Apple après un long débat interne.
  • Apple marquera toutes les images modifiées avec la fonctionnalité Clean Up comme "Modifié avec Clean Up".

Le responsable des logiciels d’Apple, Craig Federighi, a expliqué dans une interview au Wall Street Journal qu’Apple adopte une approche particulièrement prudente concernant la manipulation d’images.

La nouvelle fonctionnalité “Clean Up” d’Apple

Avec le lancement quasi quotidien d’outils d’IA avancés, il est devenu de plus en plus difficile de déterminer si une photo est authentique ou a été modifiée avec un outil d’IA.

Avec iOS 18.1, dont le lancement est prévu prochainement, Apple introduit une nouvelle fonctionnalité “Clean Up” qui permet aux utilisateurs de supprimer les objets indésirables des photos.

L’outil rappelle leMagic Editor de Google, qui est disponible depuis un certain temps.

Cependant, Google a étendu les capacités de Magic Editor en introduisant un nouvel outil appelé Reimagine, qui permet aux utilisateurs de transformer complètement les images.

Dès lors, vous pourrez notamment :

  • Placer un monstre à côté de vous sur une photo,
  • Ajouter des arcs-en-ciel la nuit,
  • Entourer un bâtiment de lave.

Les possibilités s’annoncent infinies.

La partie alarmante réside dans le fait que les résultats sont très convaincants et souvent étranges.

Lorsqu’on lui demande pourquoi Apple s’en tient seulement à l’outil Clean Up, Federighi a déclare qu’ils veulent s’assurer que les photos transmettent :

des informations réelles et non de la fantaisie.

Il souligne également que même l’outil Clean Up de base, qui aide à supprimer les objets indésirables des photos, suscite déjà un débat interne.

La préoccupation principale provient du fait que l’outil supprime des objets qui étaient “réellement” présents dans l’image.

Toutefois, la demande d’un outil pour supprimer ce que les utilisateurs perçoivent comme des détails “superflus” — sans modifier fondamentalement le sens de la scène — était forte, ce qui a conduit Apple à introduire la fonctionnalité Clean Up.

Federighi rappelle aussi qu’Apple, très impliqué dans le développement d’applications d’Intelligence Artificielle pour iPhone, est conscient de l’impact que ces outils d’édition IA peuvent avoir sur la réalité.

L’entreprise s’efforcera donc toujours de limiter la mesure dans laquelle les utilisateurs peuvent modifier une image.

L’approche d’Apple pour identifier les images modifiées 

Pour faciliter l’identification des images modifiées par l’outil Clean Up, Apple marquera toutes ces images comme “Modifié avec Clean Up” et intégrera des métadonnées indiquant qu’elles ont été modifiées avec cet outil.

Adobe promeut également l’authenticité à travers son outil Content Authenticity. Il permet aux créateurs d’intégrer des identifiants de contenu dans leur travail.

Ces identifiants servent de métadonnées vérifiables qui fournissent des informations sur le créateur et l’historique du contenu.

Contrairement à Apple, qui indique si une image a été modifiée à l’aide de l’IA, Google ne fournit aucune transparence sur l’utilisation de l’IA dans la création d’images sur ses appareils Pixel.

Les prochains téléphones de la gamme Pixel se distingueront notamment par une option “Add Me” basée sur l’IA, permettant d’intégrer des personnes dans une photo de groupe.

Termes connexes

Articles Liés

Vincent Grethen
Responsable d'édition

Diplômé de l'Ecole de Journalisme de Louvain La Neuve en Belgique, c'est finalement le monde du contenu en ligne qui m'a permis d'assouvir ma passion pour l'écriture. Depuis plus de 10 ans, j'explore divers secteurs, notamment le bien-être, le médical ou encore le tourisme. Cette polyvalence est mon atout majeur pour capter l'attention des lecteurs et des lectrices. Aujourd'hui, ma plume évolue au rythme des innovations, au service des passionnés de technologie, toujours avec le même plaisir de jouer avec les mots.