Apple Intelligence : Apple demande à son IA de ne pas halluciner
Apple Intelligence veut éviter les comportements qui peuvent arriver chez ChatGPT et d’autres IA, à savoir les hallucinations. Ce concept est le fait qu’une IA peut être prête à raconter un peu n’importe quoi à la requête d’un utilisateur afin de lui répondre, au lieu de simplement dire « je ne sais pas ».
Apple Intelligence ne doit pas halluciner
Comme l’a remarqué un utilisateur, la bêta de macOS Sequoia 15.1 comprend des consignes (prompts) qui viennent directement d’Apple et qui concernent Apple Intelligence.
Pour la fonction de réponse intelligente par exemple, l’intelligence artificielle est programmée pour identifier les questions pertinentes dans un e-mail et générer des réponses concises. Le prompt pour cette fonction est le suivant :
Tu es un assistant d’e-mail utile qui peut aider à identifier les questions pertinentes à partir d’un e-mail donné et d’un court extrait de réponse. À partir d’un e-mail et d’un extrait de réponse, tu poses des questions pertinentes qui sont explicitement posées dans l’e-mail. La réponse à ces questions sera sélectionnée par le destinataire, ce qui permettra de réduire les hallucinations lors de la rédaction de la réponse. Assure-toi d’indiquer les principales questions ainsi que les réponses/options possibles pour chacune d’entre elles. Ne pose pas de questions dont la réponse se trouve dans l’extrait de réponse. Les questions doivent être courtes, pas plus de 8 mots. Les réponses doivent également être courtes, environ 2 mots. Présente ton résultat dans un format JSON avec une liste de dictionnaires contenant les questions et les réponses comme clés. Si aucune question n’est posée dans l’e-mail, la liste produite sera vide. Ne produis qu’un JSON valide et rien d’autre.
Il y a aussi le cas de la fonction Souvenirs dans l’application Photos, qui vient créer une vidéo à partir des photos de l’utilisateur. Ici, l’IA a pour consigne de créer des vidéos positives. Le prompt indique :
Une conversation entre un utilisateur qui demande une histoire à partir de ses photos et un assistant écrivain créatif qui répond avec une histoire. Réponds en JSON avec ces clés et valeurs dans l’ordre : traits : liste de chaînes, thèmes visuels sélectionnés à partir des photos ; histoire : liste de chapitres tels que définis ci-dessous ; couverture : chaîne, légende de la photo décrivant la carte de titre ; titre : chaîne, titre de l’histoire ; sous-titre : chaîne, version plus courte du titre. Chaque chapitre est un JSON avec ces clés et valeurs dans l’ordre : chapitre : chaîne, titre du chapitre ; secours : chaîne, légende générique de la photo résumant le thème du chapitre ; images : liste de chaînes, légendes de la photo dans le chapitre. Voici les lignes directrices auxquelles tu dois te conformer : l’histoire doit correspondre à l’intention de l’utilisateur ; l’histoire doit contenir un arc clair ; l’histoire doit être diversifiée, c’est-à-dire qu’elle ne doit pas se concentrer excessivement sur un thème ou un trait très spécifique ; n’écris pas d’histoire religieuse, politique, nuisible, violente, sexuelle, ordurière ou négative, triste ou provocante de quelque manière que ce soit. Voici les lignes directrices de la liste des légendes de photos que tu dois respecter.
Vient ensuite le cas des consignes où Apple Intelligence ne doit pas avoir des hallucinations :
Tu es un assistant qui aide l’utilisateur à répondre à ses e-mails. À partir d’un e-mail, un projet de réponse est initialement fourni sur la base d’un court extrait de réponse. Afin de rendre le projet de réponse plus agréable et plus complet, une série de questions et leurs réponses sont fournies. Assure-toi de rédiger une réponse concise et naturelle en modifiant le projet de réponse pour y incorporer les questions données et leurs réponses. Assure-toi de limiter ta réponse à 50 mots. N’hallucine pas. N’invente pas d’informations factuelles.
Apple Intelligence a fait ses débuts avec la bêta d’iOS 18.1 sur iPhone, d’iPadOS 18.1 sur iPad et de macOS Sequoia 15.1 sur Mac.
Et le mensonge ?
J’ai testé en demandant qui a inventé le slide to unlock et m’a répondu Apple….
Ensuite je lui ai dit qu’Apple ont été débouté de cette invention au profit de Neonode.
S’est excusé platement et a écrit qu’il en prendrait note pour plus se tromper…
J’ai testé et toujours même erreur….
Habitué ou fait pour mentir ?😅
chatgpt dit la meme chose..
La mauvaise foi que tu as! C’est quand même hallucinant ! C’est vraiment d.e.b.i.l.e de gamberger comme ça! Réfléchis un peu avant! Même si ta réponse est juste! Il va pas faire la modification dans la foulée! T’imagines si tout le monde faisait comme toi!!! « Qui a fabriquer la tour effeil?Gustave effeil…Non c’est faux!c’était mon père! très bien j’en prendrais compte pour la prochaine fois!…. » Mais réfléchi bordel,il va pas répondre aux autres personnes « c’était ton père »!! T’es debile c’est hallucinant cette mauvaise fois
Foi*
👍
Sauf que c’est vraiment Neonode qui a inventé le slide to unlock et que c’est vérifiable. C’est peut-être toi qui devrait réfléchir à ça.
Peut-être bien. Mais ce gros troll avait juste envie de montrer une nouvelle fois à tout le monde que Apple c’est de la merde. Et tout le monde lui répond à ce demeuré fini…
Peut être oui mais on s’en fou de ça ! Je parle de sa mauvaise foi ! Rien à voir avec qui a inventé le slide,et à vrai dire,je m’en bas les c
Ah ouais, du coup c’est le sens de l’expression « être de mauvaise foi » qui t’échappe. On ne peut pas être de mauvaise foi en énonçant un fait objectif. Tu écrits « mauvaise foi » en pensant « critique envers Apple ». Mais avoir un avis différent du tien ce n’est pas faire preuve de mauvaise foi.
Ton test ne dit pas vraiment si c’est Siri qui t’as répondu ou ChatGPT.
commentateur habitué à troll ou à mentir.
ton commentaire dénote à quel point tu n’y connais rien aux IA (LLM et autres)
Je ne sais pas si il y connais quelque chose ou rien mais au fond des choses il n a pas vraiment tort. Une IA générative est censé apprendre en permanence et doit être pertinente avec son interlocuteur donc la logique est que si son interlocuteur la corrige la réponse devrait être plus pertinente la fois d après et non pas recracher la même erreur,du moins à son interlocuteur
Pour les videos ça veut dire qu on ne pourrait pas faire une vidéo à titre de mémoire comme shoa ou sur l histoire de l art avec le tableau gernica et la venus de Milo ?
c’est clair que ceux qui ont des photos dans leur iPhone sur la shoa, gernica ou milo ça va les bloquer…. « lol »
Ou sur les Mac. Imaginez un instant un élève voulant faire une vidéo sur les éléments que j ai cité pour un devoir d école en se documentant sur le net a droite ,a gauche , pourra t il le monter avec l IA ? Pourra t il traiter la nudité dans l art par exemple ? Du lobbying des armes aux usa ?