구글이 곧 출시할 업데이트에서 구글 포토는 AI로 편집된 사진을 사용자에게 명확히 표시할 계획이다. 이는 AI 도구가 사진을 조작하는 것에 대한 신뢰 문제가 커지는 가운데 투명성을 높이기 위한 조치이다. 구글 포토의 엔지니어링 디렉터 존 피셔는 "매직 에디터, 매직 이레이저, 줌 인핸스 같은 AI 도구로 편집된 사진에 대한 정보가 이제 메타데이터에 추가된다"고 발표했다. 사용자들은 파일 이름, 위치 정보와 함께 AI 사용 여부를 확인할 수 있다. 이 정보는 웹과 앱 모두에서 사진 세부 정보 화면에 표시될 예정이다. 또한, 구글은 여러 이미지에서 요소를 결합한 사진, 예를 들어 픽셀의 베스트 테이크 기능으로 만들어진 사진도 AI 사용 여부를 표시한다고 밝혔다. 하지만 이 메타데이터는 악의적으로 의도한 사람들에게는 쉽게 우회될 수 있는 한계도 있다. 구글은 피드백을 반영해 AI 편집 투명성을 높이는 추가 솔루션을 모색할 것이라고 덧붙였다. 이는 Apple이 AI로 사실적인 이미지를 생성하는 기능에 신중한 접근을 보이는 것과 대조적이다.

Google has announced that starting next week, Google Photos will clearly indicate when images have been edited using AI tools, marking an effort to enhance transparency in an era of increasing mistrust in photos manipulated by AI. John Fisher, engineering director of Google Photos, explained that metadata will now include whether a photo was altered by AI-powered tools like Magic Editor, Magic Eraser, and Zoom Enhance. This information will be visible alongside file details such as the name and location in the app. Additionally, when images contain elements from multiple photos, such as those created with Pixel’s Best Take feature, that too will be noted. While this metadata can be bypassed by those with malicious intent, Google emphasizes that it is an ongoing effort to make AI edits more transparent. Apple, on the other hand, has opted for a more cautious approach, avoiding photorealistic content in its AI tools due to concerns about authenticity in images.