Visuelles Nachschlagen bei iOS: So funktioniert die intelligente Bilderkennung

von | 17.07.2023 | iOS

Die Suche nach Informationen ist meist sehr textgetrieben: Ihr gebt einen Suchtext ein, der wird in Datenbanken gesucht und ihr bekommt die Ergebnisse präsentiert. Was aber, wenn ihr wissen wollt, was ein Bild darstellt? Das bietet das visuelle Nachschlagen bei iOS – und mittlerweile ist die Funktion deutlich intelligenter geworden.

Eigene Fotos mit Informationen anreichern

Apple verwaltet eure Fotos bei iOS im Standard dadurch, dass ihr sie mit iCloud synchronisiert. Das führt dazu, dass alle möglichen Algorithmen auf den Apple-Servern über die Bilder laufen. Diese Informationen sorgen unter anderem dafür, dass ihr alle Bilder einer Person anzeigen lasst, die Bilder kategorisiert werden nach ihren Inhalten und in Alben einsortiert werden und vieles mehr. Eine weitere, eher unbekannte Funktion ist das visuelle Nachschlagen (im Englischen „Visual Lookup“).

Die Funktion basiert auf Siri und fortgeschrittener KI-Bilderkennung, benötigt also eine bestehende Internetverbindung. Seit iOS 18 funktioniert sie auf allen iPhones ab dem iPhone 12 und nutzt dabei sowohl lokale als auch Cloud-basierte Verarbeitung für bessere Ergebnisse.

  • Öffnet auf dem iPhone die Fotos-App.
  • Wenn iOS den Inhalt des Bildes erkannt und weitere Informationen dazu gefunden hat, dann seht ihr an dem Info-Symbol (dem eingekreisten i) einen Stern. Tippt darauf.
  • iOS zeigt euch die Zusatzinfos an, nach Kategorien sortiert. Über die Karten könnt Ihr euch die Umgegend anzeigen lassen, Siri-Wissen bietet Zusatzinformationen, Fotos andere Bilder vom selben Objekt.

Seit dem Update auf iOS 18.2 erkennt das visuelle Nachschlagen deutlich mehr Objekte und Situationen. Neben Tieren, Pflanzen und Sehenswürdigkeiten identifiziert es jetzt auch komplexe Szenen, Kunstwerke, Fahrzeuge und sogar Kleidungsstücke. Besonders beeindruckend: Die Funktion erkennt mittlerweile auch Textinhalte in Bildern und kann diese übersetzen oder erklären.

Visuelles Nachschlagen in Safari

Wenn ihr im Internet unterwegs seid, dann bekommt ihr eine Menge Bilder zu sehen. Die sind nicht immer mit weiteren Informationen versehen. Gut, dass es das visuelle Nachschlagen auch in Safari gibt!

  • Wenn Safari euch ein interessantes Bild anzeigt, dann haltet den Finger darauf gedrückt.
  • Nach einem Moment öffnet sich ein Kontextmenü. Wenn Safari weitere Informationen zu diesem Bild hat, dann findet ihr darin die Option Nachschlagen.
  • Wie bei den Fotos zeigt Safari euch wieder die in Kategorien sortierten Zusatzinformationen zum Bild an, die es gefunden hat.
  • Klickt die interessierende an, um weitere Infos angezeigt zu bekommen.

Erweiterte Funktionen und neue Möglichkeiten

Mit iOS 19 hat Apple das visuelle Nachschlagen nochmals deutlich erweitert. Die Funktion arbeitet jetzt enger mit der überarbeiteten Siri zusammen und bietet kontextuelle Vorschläge basierend auf euren Interessen und bisherigen Suchanfragen.

Besonders praktisch: Ihr könnt jetzt auch Screenshots von Apps, Websites oder Dokumenten visuell durchsuchen lassen. Habt ihr beispielsweise einen Screenshot von einem interessanten Produkt gemacht, erkennt iOS oft nicht nur das Objekt, sondern schlägt auch ähnliche Produkte vor oder zeigt euch, wo ihr es kaufen könnt.

Die Genauigkeit der Erkennung hat sich enorm verbessert. Während frühere Versionen oft nur grobe Kategorien erkannten („Hund“, „Blume“), identifiziert das System jetzt spezifische Rassen, Arten oder sogar Marken. Bei Sehenswürdigkeiten bekommt ihr detaillierte historische Informationen, Öffnungszeiten und Bewertungen.

Datenschutz und Offline-Verarbeitung

Apple hat auch beim Datenschutz nachgelegt. Viele der Erkennungsalgorithmen laufen mittlerweile direkt auf dem Gerät, besonders bei häufigen Objektkategorien. Nur bei komplexeren Anfragen oder seltenen Objekten werden Daten verschlüsselt an Apple-Server gesendet. Dabei wird jedoch nie das komplette Bild übertragen, sondern nur relevante Bildmerkmale.

Die Offline-Fähigkeiten wurden ebenfalls ausgebaut. Grundlegende Objekterkennung funktioniert auch ohne Internetverbindung, allerdings fallen dann die detaillierten Zusatzinformationen und Websuchen weg.

Integration mit anderen Apps

Ein großer Vorteil des visuellen Nachschlagens ist die nahtlose Integration in andere Apple-Apps. Erkannte Pflanzen könnt ihr direkt in der Notizen-App speichern, Sehenswürdigkeiten zu euren Karten-Favoriten hinzufügen oder erkannte Tiere in einer Sammlung in der Fotos-App organisieren.

Auch Drittanbieter-Apps profitieren: Viele Reise-, Lern- und Shopping-Apps nutzen mittlerweile die Visual-Lookup-API von Apple, um eigene Funktionen anzubieten. So wird aus der simplen Bilderkennung ein mächtiges Werkzeug für den Alltag.

Das visuelle Nachschlagen zeigt eindrucksvoll, wie KI unser digitales Leben bereichern kann, ohne aufdringlich zu werden. Es funktioniert im Hintergrund, ist bei Bedarf da und respektiert gleichzeitig eure Privatsphäre.

Zuletzt aktualisiert am 18.02.2026