Le responsable des logiciels d’Apple, Craig Federighi, a expliqué dans une interview au Wall Street Journal qu’Apple adopte une approche particulièrement prudente concernant la manipulation d’images.
La nouvelle fonctionnalité “Clean Up” d’Apple
Avec le lancement quasi quotidien d’outils d’IA avancés, il est devenu de plus en plus difficile de déterminer si une photo est authentique ou a été modifiée avec un outil d’IA.
Avec iOS 18.1, dont le lancement est prévu prochainement, Apple introduit une nouvelle fonctionnalité “Clean Up” qui permet aux utilisateurs de supprimer les objets indésirables des photos.
L’outil rappelle leMagic Editor de Google, qui est disponible depuis un certain temps.
Cependant, Google a étendu les capacités de Magic Editor en introduisant un nouvel outil appelé Reimagine, qui permet aux utilisateurs de transformer complètement les images.
Dès lors, vous pourrez notamment :
- Placer un monstre à côté de vous sur une photo,
- Ajouter des arcs-en-ciel la nuit,
- Entourer un bâtiment de lave.
Les possibilités s’annoncent infinies.
La partie alarmante réside dans le fait que les résultats sont très convaincants et souvent étranges.
Lorsqu’on lui demande pourquoi Apple s’en tient seulement à l’outil Clean Up, Federighi a déclare qu’ils veulent s’assurer que les photos transmettent :
des informations réelles et non de la fantaisie.
Il souligne également que même l’outil Clean Up de base, qui aide à supprimer les objets indésirables des photos, suscite déjà un débat interne.
La préoccupation principale provient du fait que l’outil supprime des objets qui étaient “réellement” présents dans l’image.
Toutefois, la demande d’un outil pour supprimer ce que les utilisateurs perçoivent comme des détails “superflus” — sans modifier fondamentalement le sens de la scène — était forte, ce qui a conduit Apple à introduire la fonctionnalité Clean Up.
Federighi rappelle aussi qu’Apple, très impliqué dans le développement d’applications d’Intelligence Artificielle pour iPhone, est conscient de l’impact que ces outils d’édition IA peuvent avoir sur la réalité.
L’entreprise s’efforcera donc toujours de limiter la mesure dans laquelle les utilisateurs peuvent modifier une image.
L’approche d’Apple pour identifier les images modifiées
Pour faciliter l’identification des images modifiées par l’outil Clean Up, Apple marquera toutes ces images comme “Modifié avec Clean Up” et intégrera des métadonnées indiquant qu’elles ont été modifiées avec cet outil.
Adobe promeut également l’authenticité à travers son outil Content Authenticity. Il permet aux créateurs d’intégrer des identifiants de contenu dans leur travail.
Ces identifiants servent de métadonnées vérifiables qui fournissent des informations sur le créateur et l’historique du contenu.
Contrairement à Apple, qui indique si une image a été modifiée à l’aide de l’IA, Google ne fournit aucune transparence sur l’utilisation de l’IA dans la création d’images sur ses appareils Pixel.
Les prochains téléphones de la gamme Pixel se distingueront notamment par une option “Add Me” basée sur l’IA, permettant d’intégrer des personnes dans une photo de groupe.