{"id":6099,"date":"2023-08-07T13:05:21","date_gmt":"2023-08-07T13:05:21","guid":{"rendered":"https:\/\/www.salesforce.com\/?p=6099"},"modified":"2024-01-09T16:33:01","modified_gmt":"2024-01-09T16:33:01","slug":"explainable-ai","status":"publish","type":"post","link":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/","title":{"rendered":"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen"},"content":{"rendered":"\n<p>Der Begriff Explainable AI (XAI) steht f\u00fcr ein Grundproblem, das wir mit Machine-Learning-Systemen haben: Da ML-Systeme eher trainiert als programmiert werden, gibt es eigentlich keinen lesbaren Code mehr, dem wir entnehmen k\u00f6nnen, warum der Algorithmus diese oder jene Entscheidung getroffen hat. Verstehen wir \u00fcberhaupt, wie diese Systeme zu ihren Schlussfolgerungen kommen?<\/p>\n\n\n<div class=\"wp-block-quote-article\" style=\"\"><div class=\"wp-block-quote-social-wrapper\"><figure class=\"wp-block-quote-article-quote\">\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>Am schwersten verst\u00e4ndlich auf der ganzen Welt ist die <strong>Einkommenssteuer<\/strong>.<\/p>\n<cite>Albert Einstein<\/cite><\/blockquote>\n\n<div class=\"post__social post__social--v2 post__social--blockquote\">\n\n\t\n\t<ul class=\"social-nav social-nav-v2\">\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf LinkedIn teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"http:\/\/www.linkedin.com\/shareArticle?mini=true&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DLinkedIn%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;title=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"21\" height=\"21\" fill=\"none\"><path fill=\"#032D60\" d=\"M16.625 0H4.375A4.375 4.375 0 0 0 0 4.375v12.25A4.375 4.375 0 0 0 4.375 21h12.25A4.375 4.375 0 0 0 21 16.625V4.375A4.375 4.375 0 0 0 16.625 0M7 16.625H4.375V7H7zM5.687 5.89a1.54 1.54 0 0 1-1.53-1.543c0-.852.685-1.544 1.53-1.544.846 0 1.532.692 1.532 1.544S6.534 5.89 5.687 5.89M17.5 16.625h-2.625v-4.903c0-2.947-3.5-2.724-3.5 0v4.903H8.75V7h2.625v1.544c1.222-2.262 6.125-2.43 6.125 2.167z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Twitter teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/x.com\/intent\/tweet?text=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DTwitter%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;via=salesforce\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"32\" height=\"32\" fill=\"#032D60\" viewBox=\"0 0 32 32\"><path d=\"M17.4 14.8 23 8.3h-1.3L16.8 14 13 8.3H8.5l5.9 8.5-5.9 6.8h1.3l5.1-6 4.1 6h4.5zm-1.8 2.1-.6-.8-4.7-6.8h2l3.8 5.5.6.8 5 7.1h-2z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Facebook teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/www.facebook.com\/sharer\/sharer.php?u=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DFacebook%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"19\" height=\"19\" fill=\"none\"><path fill=\"#032D60\" d=\"M19 9.5a9.5 9.5 0 0 0-19 0c0 4.742 3.474 8.672 8.016 9.385v-6.639H5.604V9.5h2.412V7.407c0-2.38 1.418-3.696 3.588-3.696 1.04 0 2.127.185 2.127.185v2.338h-1.198c-1.18 0-1.549.733-1.549 1.484V9.5h2.635l-.421 2.746h-2.214v6.639C15.526 18.172 19 14.242 19 9.5\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\n\t\t<li class=\"social-nav__item\">\n\t\t\t<button\n\t\t\t\tclass=\"copy-share js-copy-link\"\n\t\t\t\taria-label=\"Copy link to clipboard\"\n\t\t\t\thref=\"#\"\n\t\t\t\tdata-clipboard-text='\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\" https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/'\n\t\t\t>\n\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"20\" height=\"10\" fill=\"none\"><path fill=\"#032D60\" d=\"M14.586.406h-3.667V2.24h3.667a2.76 2.76 0 0 1 2.75 2.75 2.76 2.76 0 0 1-2.75 2.75h-3.667v1.833h3.667a4.585 4.585 0 0 0 4.583-4.583A4.585 4.585 0 0 0 14.586.406m-5.5 7.334H5.419a2.76 2.76 0 0 1-2.75-2.75 2.76 2.76 0 0 1 2.75-2.75h3.667V.406H5.419A4.585 4.585 0 0 0 .836 4.99a4.585 4.585 0 0 0 4.583 4.583h3.667zm-2.75-3.667h7.333v1.833H6.336z\" \/><\/svg>\n\t\t\t<\/button>\n\t\t<\/li>\n\t<\/ul>\n<\/div>\n<\/figure><\/div><\/div>\n\n\n<p>Dieses Zitat stammt von <strong>Albert Einstein<\/strong>, der immerhin die Relativit\u00e4tstheorie entwickelt hat. <strong>Heute h\u00e4tte er vielleicht \u201eKI\u201c als am schwersten durchschaubar genannt<\/strong>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\" id=\"h-definition-explainable-ai-verstehen-wie-die-ki-tickt\"><strong>Definition Explainable AI: Verstehen, wie die KI tickt<\/strong><\/h2>\n\n\n\n<p>Hier kommt \u201eErkl\u00e4rbare KI\u201c ins Spiel. Denn auch in AIs arbeiten Algorithmen, und ihre Ausgaben sind nicht zuf\u00e4llig. Die Definition von Explainable AI lautet daher: Es ist jener Bereich der K\u00fcnstlichen Intelligenz, der sich darauf konzentriert, die Entscheidungen und Aktionen, die von KI-Systemen getroffen werden, verst\u00e4ndlich und nachvollziehbar zu machen.&nbsp;<\/p>\n\n\n\n<p>Der Bedarf f\u00fcr XAI entsteht durch die Natur vieler KI-Modelle: Sie arbeiten als undurchsichtige \u201eBlackbox&#8220;. Sie nehmen Daten auf, verarbeiten sie auf eine f\u00fcr Benutzer:innen erst einmal undurchsichtige und nicht nachvollziehbare Art und Weise, und liefern dann Ergebnisse. Die k\u00f6nnen richtig sein oder falsch \u2013 aber erstmal ist gar nicht klar: Wie ist die AI denn zu diesen Ergebnissen gekommen?<\/p>\n\n\n\n<p>Bei <a href=\"https:\/\/www.salesforce.com\/de\/blog\/generative-ai\/\">generativen Bild-KIs<\/a> mag das nicht wichtig sein. Doch in vielen anderen Bereichen ist Erkl\u00e4rbarkeit und Verantwortlichkeit entscheidend:&nbsp;<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Im Gesundheitswesen zum Beispiel k\u00f6nnte eine KI auch Diagnosen stellen \u2013 aber das geht nur, wenn \u00c4rzt:innen und Patient:innen mit Hilfe von Explainable AI verstehen, wie sie zu ihrer Schlussfolgerung kommt.&nbsp;<\/li>\n\n\n\n<li>Ebenso k\u00f6nnen im Finanzwesen Algorithmen zur Kreditvergabe eingesetzt werden \u2013 aber Kund:innen haben das gesetzlich verankerte Recht zu erfahren, wie Entscheidungen \u00fcber ihre Kreditw\u00fcrdigkeit zustande kommen.<\/li>\n\n\n\n<li>Eine St\u00e4rke von AIs ist, aus Datenmengen neues Wissen sch\u00f6pfen zu k\u00f6nnen \u2013 das ist gut. Doch wenn davon das Wohl und Wehe eines Unternehmens abh\u00e4ngt, nimmt man daf\u00fcr wohl besser keine \u201eBlackbox\u201c, sondern eben eine \u201eGlassbox AI\u201c.<\/li>\n<\/ul>\n\n\n\n<div class=\"layout-two wp-block-salesforce-blog-offer\">\n\t<div class=\"wp-block-offer__wrapper\">\n\n\t\t<div class=\"wp-block-offer__content\">\n\t\t\t<h2 class=\"wp-block-offer__title\">Das KI-Glossar &#8211;<br>32 Definitionen, die Sie jetzt unbedingt kennen sollten<\/h2>\n\t\t\t\n\t\t\t\n\t\t\t\t\t\t\t<div class=\"wp-block-button\">\n\t\t\t\t\t<a class=\"wp-block-button__link\" target=\"_self\" href=\"https:\/\/www.salesforce.com\/de\/form\/pdf\/ki-glossar\/?nc=7013y0000026LQ3AAM\">Kostenlos herunterladen<\/a>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\n\t\t<div class=\"wp-block-offer__media\">\n\t\t\t\t\t<\/div>\n\t<\/div>\n\n\t\t\t<div class=\"wp-block-offer__graphics wp-block-offer__contour\"><\/div>\n\t\n\t\t\t<!-- Standard Illustration -->\n\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__illustration\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-illustration-layout-two.png\" alt=\"\">\n\n\t\t<!-- Small Accent Illustration -->\n\t\t\t\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__accent\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-accent-layout-two.png\" alt=\"\">\n\t\t\n\t\t<!-- Left Side Illustration -->\n\t\t\n\t\t<!-- Cloud Illustration -->\n\t\t\t\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__cloud\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-cloud-layout-two.png\" alt=\"\">\n\t\t\n\t<\/div>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>XAI: Warum wir KIs verstehen m\u00fcssen<\/strong><\/h2>\n\n\n\n<p>Ob pers\u00f6nliche Assistenten oder komplexe Prognosesysteme f\u00fcr Gesundheitswesen und Finanzen \u2013 AIs haben zunehmend Einfluss auf kritische Entscheidungsprozesse und sollten daher aus vielen Gr\u00fcnden auch Rede und Antwort stehen k\u00f6nnen. Das sehen auch Anwender:innen so:<\/p>\n\n\n<div class=\"wp-block-quote-article\" style=\"\"><div class=\"wp-block-quote-social-wrapper\"><figure class=\"wp-block-quote-article-quote\">\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>61 % der Arbeitnehmer:innen sind aufgeschlossen f\u00fcr generative KI, aber es fehlt ihnen an Kenntnissen \u00fcber vertrauensw\u00fcrdige Daten und Sicherheit.<\/p>\n<cite>Salesforce Snapshot-Studie<\/cite><\/blockquote>\n\n<div class=\"post__social post__social--v2 post__social--blockquote\">\n\n\t\n\t<ul class=\"social-nav social-nav-v2\">\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf LinkedIn teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"http:\/\/www.linkedin.com\/shareArticle?mini=true&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DLinkedIn%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;title=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"21\" height=\"21\" fill=\"none\"><path fill=\"#032D60\" d=\"M16.625 0H4.375A4.375 4.375 0 0 0 0 4.375v12.25A4.375 4.375 0 0 0 4.375 21h12.25A4.375 4.375 0 0 0 21 16.625V4.375A4.375 4.375 0 0 0 16.625 0M7 16.625H4.375V7H7zM5.687 5.89a1.54 1.54 0 0 1-1.53-1.543c0-.852.685-1.544 1.53-1.544.846 0 1.532.692 1.532 1.544S6.534 5.89 5.687 5.89M17.5 16.625h-2.625v-4.903c0-2.947-3.5-2.724-3.5 0v4.903H8.75V7h2.625v1.544c1.222-2.262 6.125-2.43 6.125 2.167z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Twitter teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/x.com\/intent\/tweet?text=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DTwitter%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;via=salesforce\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"32\" height=\"32\" fill=\"#032D60\" viewBox=\"0 0 32 32\"><path d=\"M17.4 14.8 23 8.3h-1.3L16.8 14 13 8.3H8.5l5.9 8.5-5.9 6.8h1.3l5.1-6 4.1 6h4.5zm-1.8 2.1-.6-.8-4.7-6.8h2l3.8 5.5.6.8 5 7.1h-2z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Facebook teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/www.facebook.com\/sharer\/sharer.php?u=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DFacebook%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"19\" height=\"19\" fill=\"none\"><path fill=\"#032D60\" d=\"M19 9.5a9.5 9.5 0 0 0-19 0c0 4.742 3.474 8.672 8.016 9.385v-6.639H5.604V9.5h2.412V7.407c0-2.38 1.418-3.696 3.588-3.696 1.04 0 2.127.185 2.127.185v2.338h-1.198c-1.18 0-1.549.733-1.549 1.484V9.5h2.635l-.421 2.746h-2.214v6.639C15.526 18.172 19 14.242 19 9.5\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\n\t\t<li class=\"social-nav__item\">\n\t\t\t<button\n\t\t\t\tclass=\"copy-share js-copy-link\"\n\t\t\t\taria-label=\"Copy link to clipboard\"\n\t\t\t\thref=\"#\"\n\t\t\t\tdata-clipboard-text='\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\" https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/'\n\t\t\t>\n\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"20\" height=\"10\" fill=\"none\"><path fill=\"#032D60\" d=\"M14.586.406h-3.667V2.24h3.667a2.76 2.76 0 0 1 2.75 2.75 2.76 2.76 0 0 1-2.75 2.75h-3.667v1.833h3.667a4.585 4.585 0 0 0 4.583-4.583A4.585 4.585 0 0 0 14.586.406m-5.5 7.334H5.419a2.76 2.76 0 0 1-2.75-2.75 2.76 2.76 0 0 1 2.75-2.75h3.667V.406H5.419A4.585 4.585 0 0 0 .836 4.99a4.585 4.585 0 0 0 4.583 4.583h3.667zm-2.75-3.667h7.333v1.833H6.336z\" \/><\/svg>\n\t\t\t<\/button>\n\t\t<\/li>\n\t<\/ul>\n<\/div>\n<\/figure><\/div><\/div>\n\n\n<ul class=\"wp-block-list\">\n<li><strong>Explainable AI sorgt f\u00fcr Transparenz und Verantwortung:<\/strong> Nur mit XAI k\u00f6nnen die Entscheidungen von KI-Systemen nachvollzogen und gegebenenfalls auch \u00fcberpr\u00fcft werden. Eine solche Rechenschaftspflicht kann dazu beitragen, Fehlentscheidungen aufzudecken \u2013 zum Beispiel bei medizinischen Diagnose- oder Entscheidungsunterst\u00fctzungssystemen extrem wichtig.&nbsp;<\/li>\n\n\n\n<li><strong>XAI schafft Vertrauen:<\/strong> Erkl\u00e4rbare KI erm\u00f6glicht es den Benutzer:innen, die Funktionsweise der von ihnen genutzten KIs und die Gr\u00fcnde f\u00fcr ihre Entscheidungen oder Outputs besser zu verstehen. Das st\u00e4rkt das Vertrauen in diese Technologie und sorgt daf\u00fcr, dass mehr Menschen lernen, wie sie AIs gewinnbringend nutzen k\u00f6nnen.&nbsp;<\/li>\n\n\n\n<li><strong>Ethische Fairness:<\/strong> Viele generative Text- und Bild-KIs zeigen eine gewisse Neigung, Stereotypen zu replizieren. Denn bedingt durch ihre Trainingsdaten sind alle KI-Systeme so voreingenommen wie Menschen (\u201eBias\u201c). Zugleich erwarten wir aber das Gegenteil von ihnen und betrachten ihren Output oft als objektive Wahrheit. Explainable AI muss antrainierte Vorurteile identifizierbar und ihre Ursachen erkennbar und abschaltbar machen, damit zuverl\u00e4ssig faire und ethisch gerechte Entscheidungen gef\u00e4llt werden.<\/li>\n\n\n\n<li><strong>Sicherheit und Zuverl\u00e4ssigkeit der Entscheidungsfindung:<\/strong> Mit XAI k\u00f6nnen wir besser beurteilen, ob eine KI zuverl\u00e4ssig und sicher ist, wo potenzielle Schwachstellen liegen und wie wir sie beheben. Wenn wir die Gr\u00fcnde f\u00fcr eine KI-Entscheidung besser verstehen, k\u00f6nnen wir deren Qualit\u00e4t besser beurteilen. Wir k\u00f6nnen dann einerseits gegebenenfalls Verbesserungen vornehmen oder andererseits daraus schlie\u00dfen, wo wir KI besser (noch) nicht einsetzen sollten.<\/li>\n\n\n\n<li><strong>Explainable AI zur Einhaltung gesetzlicher Vorschriften:<\/strong> Gesetzliche Vorschriften verlangen in einigen Bereichen Transparenz und Erkl\u00e4rbarkeit, eine Art algorithmische Rechenschaftspflicht. Ein Beispiel ist Artikel 14 der DSGVO, wonach Menschen ein Recht auf Erkl\u00e4rung haben bei wichtigen Entscheidungen, von denen sie betroffen sind. Das vor allem bei YMYL-Themen (Your Money, Your Life) so, also rund um Geld und um den Finanzsektor sowie auch bei gesundheitlichen Fragen. XAI kann helfen, dass AI-Technologien solche Anforderungen erf\u00fcllen k\u00f6nnen, zum Beispiel auch die Europ\u00e4ische Datenschutzgrundverordnung (DSGVO), die ein \u201eRecht auf Erkl\u00e4rung\u201c vorsieht.<\/li>\n<\/ul>\n\n\n\n<p>Am Ende des Tages erm\u00f6glicht XAI den Menschen vor allem, die Kontrolle \u00fcber KI-Systeme zu behalten. Durch das Verstehen der Entscheidungen der KI k\u00f6nnen wir eingreifen und Korrekturen vornehmen, wenn dies notwendig ist. Zumindest die \u00dcberpr\u00fcfung der Plausibilit\u00e4t eines Ergebnisses sollte m\u00f6glich sein.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Wie macht man KI \u201eexplainable\u201c?<\/strong><\/h2>\n\n\n\n<p>Ein klassisches Programm ist eine Abfolge von Befehlsschritten. Dabei ist es vergleichsweise einfach zu verstehen, warum ein Input A zu einem Output B gef\u00fchrt hat. Doch schon bei allt\u00e4glichen Computerproblemen zeigt sich, dass es schnell kompliziert wird: Jeden Tag laden die Betriebssysteme Updates und auch unsere Benutzung hinterl\u00e4sst Spuren in ihnen. Deswegen ist es schon bei Rechnerproblemen eine einfache, singul\u00e4re Erkl\u00e4rung schwer.<\/p>\n\n\n\n<p>AIs sind noch einmal deutlich komplexer. Die Zahl ihrer Parameter geht inzwischen in die Milliarden. Explainable AI muss also v\u00f6llig neue Wege gehen, um die Ursachen und Begr\u00fcndungen von Entscheidungen zu verstehen. Es ist schwierig, aber nicht unm\u00f6glich, und die Methoden haben beeindruckende Namen wie LIME (\u201elocal interpretable model-agnostic explanations\u201d, LRP (\u201eLayer-wise relevance propagation\u201d) oder GAM (\u201eGeneralized additive model\u201d), um nur einige zu nennen.&nbsp;<\/p>\n\n\n\n<p>Nur AI-Expert:innen verstehen derzeit alle Details, aber meist geht es um diese Dinge:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Ein Ansatz f\u00fcr Explainable AI besteht darin, durch geringf\u00fcgige \u00c4nderungen am Input zu beobachten, wie und wie sehr das KI-System daraufhin seinen Output \u00e4ndert.<\/li>\n\n\n\n<li>Einige XAI-Techniken ermitteln die Wichtigkeit jedes einzelnen Merkmals f\u00fcr das gesamte Modell und versuchen so \u00fcber die wichtigsten Merkmale, die Entscheidung nachvollziehbar zu machen.<\/li>\n\n\n\n<li>Ein anderer Ansatz f\u00fcr vertrauensw\u00fcrdige und erkl\u00e4rbare KI besteht darin, f\u00fcr einzelne Fragen ein eigenes Modell zu entwickeln, das sozusagen eine vereinfachte Version der KI f\u00fcr diese eine Frage darstellt.<\/li>\n\n\n\n<li>Und nat\u00fcrlich gibt es auch \u00dcberlegungen, die Kontrolle von KIs an Systeme abzugeben, die daf\u00fcr besser geeignet sind als wir selbst \u2013 also XAI mit Hilfe von Kontroll-KIs.<\/li>\n\n\n\n<li>Einige Ans\u00e4tze arbeiten sogar auf eine KI hin, die ab Werk keine Blackbox ist, sondern die als Glassbox selbst \u00fcber ihre Systemzust\u00e4nde Auskunft geben kann.<\/li>\n<\/ul>\n\n\n\n<p>Derzeit kann zum Beispiel <a href=\"https:\/\/www.salesforce.com\/de\/blog\/chat-gpt\/\">ChatGPT<\/a> gar nicht pr\u00e4zise erkl\u00e4ren, wie es selbst arbeitet. Mit Explainable AI k\u00f6nnte uns der <a href=\"https:\/\/www.salesforce.com\/de\/blog\/2022\/04\/was-ist-ein-chatbot--und-wie-veraendert-er-die-kundenerfahrung-\">Chatbot<\/a> irgendwann selbst erkl\u00e4ren, wie er sein Ergebnis produziert hat \u2013 und indem wir die KI besser verstehen, k\u00f6nnen wir ihr auch bessere Anweisungen \u2013 so genannte Prompts \u2013 geben.<\/p>\n\n\n\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"AI Strategy 101: Everything You Need to Know About AI + Data + CRM | Salesforce Explained\" width=\"500\" height=\"281\" src=\"https:\/\/www.youtube.com\/embed\/M5HIOyvfR_I?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Fazit: Explainable-AIs m\u00fcssen kommen<\/strong><\/h2>\n\n\n\n<p>Explainable AI hilft Unternehmen, sicherzustellen, dass ihre KI-Systeme fair, ethisch, transparent und verantwortungsbewusst arbeiten. Dank erkl\u00e4rbarer Entscheidungen und Handlungen von KI-Systemen k\u00f6nnen Unternehmen das Vertrauen ihrer Kund:innen, Mitarbeiter:innen und Stakeholder in diese Systeme st\u00e4rken. XAI kann dazu beitragen, die Akzeptanz von KI-Systemen zu erh\u00f6hen, indem sie Kund:innen wie Mitarbeiter:innen hilft, die Funktionsweise dieser Systeme besser zu verstehen.<\/p>\n\n\n\n<p>Dar\u00fcber hinaus kann erkl\u00e4rbare KI auch dazu beitragen, regulatorische Anforderungen zu erf\u00fcllen und das Risiko von Fehlentscheidungen zu minimieren. Das st\u00e4rkt das Vertrauen in diese Systeme und erlaubt es ihnen, auch bei Finanz- und Gesundheitsthemen von ihren M\u00f6glichkeiten zu profitieren.&nbsp;<\/p>\n\n\n\n<p>In einer Welt, die immer st\u00e4rker von KI gepr\u00e4gt ist, ist die M\u00f6glichkeit, ihre Arbeitsweise zu verstehen, von unsch\u00e4tzbarem Wert. Nur so k\u00f6nnen wir verantwortungsvoll die vielen Vorteile von KI nutzen, ohne dabei die Kontrolle zu verlieren oder undurchsichtigen Prozessen ausgesetzt zu sein. Explainable AI ist ein entscheidender Schritt, um AI effektiv zu kontrollieren, zu regulieren und sicherzustellen, dass K\u00fcnstliche Intelligenz zum Nutzen und Wohl aller eingesetzt wird.<\/p>\n\n\n\n<p>Grunds\u00e4tzlich geht es beim Thema AI immer auch um die Sicherheit von Daten. Gerade sensible Informationen (Kundendaten, gesch\u00e4ftliche Daten etc.) sollten nicht in Systeme flie\u00dfen, aus der sich beliebige Internet-KIs einfach bedienen k\u00f6nnen \u2013 besonders, wenn wir noch nicht wissen, was in ihnen tats\u00e4chlich vorgeht. Das gilt \u00fcbrigens auch f\u00fcr Mitarbeiter:innen.<\/p>\n\n\n<div class=\"wp-block-quote-article\" style=\"\"><div class=\"wp-block-quote-social-wrapper\"><figure class=\"wp-block-quote-article-quote\">\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p>Sie werden nicht die sensibelsten, privatesten und sichersten Informationen Ihrer Kund:innen nehmen und sie in ein gro\u00dfes Sprachmodell packen, auf das alle Ihre Mitarbeiter:innen Zugriff haben.<\/p>\n<cite>Marc Benioff<\/cite><\/blockquote>\n<span class=\"citation-role\">Salesforce CEO<\/span>\n<div class=\"post__social post__social--v2 post__social--blockquote\">\n\n\t\n\t<ul class=\"social-nav social-nav-v2\">\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf LinkedIn teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"http:\/\/www.linkedin.com\/shareArticle?mini=true&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DLinkedIn%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;title=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"21\" height=\"21\" fill=\"none\"><path fill=\"#032D60\" d=\"M16.625 0H4.375A4.375 4.375 0 0 0 0 4.375v12.25A4.375 4.375 0 0 0 4.375 21h12.25A4.375 4.375 0 0 0 21 16.625V4.375A4.375 4.375 0 0 0 16.625 0M7 16.625H4.375V7H7zM5.687 5.89a1.54 1.54 0 0 1-1.53-1.543c0-.852.685-1.544 1.53-1.544.846 0 1.532.692 1.532 1.544S6.534 5.89 5.687 5.89M17.5 16.625h-2.625v-4.903c0-2.947-3.5-2.724-3.5 0v4.903H8.75V7h2.625v1.544c1.222-2.262 6.125-2.43 6.125 2.167z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Twitter teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/x.com\/intent\/tweet?text=Explainable%20AI%3A%20Warum%20wir%20unsere%20KIs%20verstehen%20m%C3%BCssen&#038;url=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DTwitter%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt&#038;via=salesforce\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"32\" height=\"32\" fill=\"#032D60\" viewBox=\"0 0 32 32\"><path d=\"M17.4 14.8 23 8.3h-1.3L16.8 14 13 8.3H8.5l5.9 8.5-5.9 6.8h1.3l5.1-6 4.1 6h4.5zm-1.8 2.1-.6-.8-4.7-6.8h2l3.8 5.5.6.8 5 7.1h-2z\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\t\t\t<li class=\"social-nav__item\">\n\t\t\t\t<a\n\t\t\t\t\taria-label=\"Auf Facebook teilen (\u00f6ffnet sich in neuem Tab)\"\n\t\t\t\t\thref=\"https:\/\/www.facebook.com\/sharer\/sharer.php?u=https%3A%2F%2Fwww.salesforce.com%2Fde%2Fblog%2Fexplainable-ai%2F%3Futm_source%3DFacebook%26utm_medium%3Dorganic_social%26utm_campaign%3Dus_cbaw%26utm_content%3Dblog-ctt\"\n\t\t\t\t\ttarget=\"_blank\"\n\t\t\t\t>\n\t\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"19\" height=\"19\" fill=\"none\"><path fill=\"#032D60\" d=\"M19 9.5a9.5 9.5 0 0 0-19 0c0 4.742 3.474 8.672 8.016 9.385v-6.639H5.604V9.5h2.412V7.407c0-2.38 1.418-3.696 3.588-3.696 1.04 0 2.127.185 2.127.185v2.338h-1.198c-1.18 0-1.549.733-1.549 1.484V9.5h2.635l-.421 2.746h-2.214v6.639C15.526 18.172 19 14.242 19 9.5\" \/><\/svg>\n\t\t\t\t<\/a>\n\t\t\t<\/li>\n\t\t\n\t\t<li class=\"social-nav__item\">\n\t\t\t<button\n\t\t\t\tclass=\"copy-share js-copy-link\"\n\t\t\t\taria-label=\"Copy link to clipboard\"\n\t\t\t\thref=\"#\"\n\t\t\t\tdata-clipboard-text='\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\" https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/'\n\t\t\t>\n\t\t\t\t\n<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"20\" height=\"10\" fill=\"none\"><path fill=\"#032D60\" d=\"M14.586.406h-3.667V2.24h3.667a2.76 2.76 0 0 1 2.75 2.75 2.76 2.76 0 0 1-2.75 2.75h-3.667v1.833h3.667a4.585 4.585 0 0 0 4.583-4.583A4.585 4.585 0 0 0 14.586.406m-5.5 7.334H5.419a2.76 2.76 0 0 1-2.75-2.75 2.76 2.76 0 0 1 2.75-2.75h3.667V.406H5.419A4.585 4.585 0 0 0 .836 4.99a4.585 4.585 0 0 0 4.583 4.583h3.667zm-2.75-3.667h7.333v1.833H6.336z\" \/><\/svg>\n\t\t\t<\/button>\n\t\t<\/li>\n\t<\/ul>\n<\/div>\n<\/figure><\/div><\/div>\n\n\n<div class=\"layout-five wp-block-salesforce-blog-offer\">\n\t<div class=\"wp-block-offer__wrapper\">\n\n\t\t<div class=\"wp-block-offer__content\">\n\t\t\t<h2 class=\"wp-block-offer__title\">Entdecken Sie unser neues KI-Glossar<\/h2>\n\t\t\t\t\t\t\t<p class=\"wp-block-offer__description\">32 Definitionen aus der KI-Welt, die Sie jetzt unbedingt kennen sollten und welche Vorteile f\u00fcr Ihre Kund:innen und Mitarbeiter:innen daraus entstehen.<\/p>\n\t\t\t\n\t\t\t\n\t\t\t\t\t\t\t<div class=\"wp-block-button\">\n\t\t\t\t\t<a class=\"wp-block-button__link\" target=\"_self\" href=\"https:\/\/www.salesforce.com\/de\/form\/pdf\/ki-glossar\/?nc=7013y0000026LQ3AAM\">Jetzt kostenlos downloaden<\/a>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\n\t\t<div class=\"wp-block-offer__media\">\n\t\t\t<img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"577\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png\" class=\"attachment-full size-full\" alt=\"Ki Glossar auf einem Tablet\" srcset=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png 1268w, https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png?w=300&amp;h=169 300w, https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png?w=768&amp;h=432 768w, https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png?w=1024&amp;h=577 1024w, https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2020\/06\/de-ki-glossar.png?w=150&amp;h=84 150w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/>\t\t<\/div>\n\t<\/div>\n\n\t\n\t\t\t<!-- Standard Illustration -->\n\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__illustration\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-illustration-layout-five.png\" alt=\"\">\n\n\t\t<!-- Small Accent Illustration -->\n\t\t\t\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__accent\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-accent-layout-five.png\" alt=\"\">\n\t\t\n\t\t<!-- Left Side Illustration -->\n\t\t\n\t\t<!-- Cloud Illustration -->\n\t\t\t\t\t<img decoding=\"async\" class=\"wp-block-offer__graphics wp-block-offer__cloud\" src=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/themes\/salesforce-blog\/dist\/images\/offer-block\/offer-cloud-layout-five.png\" alt=\"\">\n\t\t\n\t<\/div>\n","protected":false},"excerpt":{"rendered":"<p>KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.<\/p>\n","protected":false},"author":13,"featured_media":6105,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"sf_justforyou_enable_alt":true,"optimizely_content_id":"edb2ebad69554f73badadddcb3794375","post_meta_title":"","ai_synopsis":"","_jetpack_memberships_contains_paid_content":false,"footnotes":""},"sf_topic":[57],"sf_content_type":[],"blog":[496],"coauthors":[114],"class_list":["post-6099","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","sf_topic-generative-ai","blog-generative-ai"],"yoast_head":"<!-- This site is optimized with the Yoast SEO Premium plugin v27.2 (Yoast SEO v27.2) - https:\/\/yoast.com\/product\/yoast-seo-premium-wordpress\/ -->\n<title>Explainable AI: Warum wir KIs verstehen m\u00fcssen - Salesforce<\/title>\n<meta name=\"description\" content=\"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\" \/>\n<meta property=\"og:locale\" content=\"de_DE\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\" \/>\n<meta property=\"og:description\" content=\"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\" \/>\n<meta property=\"og:site_name\" content=\"Salesforce\" \/>\n<meta property=\"article:published_time\" content=\"2023-08-07T13:05:21+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-01-09T16:33:01+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png\" \/>\n\t<meta property=\"og:image:width\" content=\"600\" \/>\n\t<meta property=\"og:image:height\" content=\"400\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Sheila Moghaddam Ghazvini\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Verfasst von\" \/>\n\t<meta name=\"twitter:data1\" content=\"carolinschmitz\" \/>\n\t<meta name=\"twitter:label2\" content=\"Gesch\u00e4tzte Lesezeit\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 Minuten\" \/>\n\t<meta name=\"twitter:label3\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data3\" content=\"Sheila Moghaddam Ghazvini\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\"},\"author\":[{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/c81bfdbf2ce05543dbf9eb95f9143ae4\"}],\"headline\":\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\",\"datePublished\":\"2023-08-07T13:05:21+00:00\",\"dateModified\":\"2024-01-09T16:33:01+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\"},\"wordCount\":1427,\"commentCount\":0,\"publisher\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#organization\"},\"image\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png\",\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"CommentAction\",\"name\":\"Comment\",\"target\":[\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#respond\"]}]},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\",\"name\":\"Explainable AI: Warum wir KIs verstehen m\u00fcssen - Salesforce\",\"isPartOf\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png\",\"datePublished\":\"2023-08-07T13:05:21+00:00\",\"dateModified\":\"2024-01-09T16:33:01+00:00\",\"description\":\"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.\",\"breadcrumb\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#breadcrumb\"},\"inLanguage\":\"de\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png\",\"contentUrl\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png\",\"width\":600,\"height\":400,\"caption\":\"Auf einem rosafarbenen Hintergrund ist ein blaues Fragezeichen zu sehen\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/www.salesforce.com\/de\/blog\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#website\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/\",\"name\":\"Salesforce\",\"description\":\"Lesen Sie die neuesten Tipps und Trends f\u00fcr Ihr Business - rund um die Themen Marketing, Vertrieb, Service, IT und Commerce.\",\"publisher\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#organization\"},\"alternateName\":\"Salesforce\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.salesforce.com\/de\/blog\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"de\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#organization\",\"name\":\"Salesforce\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/logo\/image\/\",\"url\":\"\",\"contentUrl\":\"\",\"caption\":\"Salesforce\"},\"image\":{\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/logo\/image\/\"}},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/c81bfdbf2ce05543dbf9eb95f9143ae4\",\"name\":\"Sheila Moghaddam Ghazvini\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"de\",\"@id\":\"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/45427fea99d0dafe3ac6eee756b7ae3c\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/06\/Sheila.png?w=150&h=150&crop=1\",\"contentUrl\":\"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/06\/Sheila.png?w=150&h=150&crop=1\",\"width\":\"150\",\"height\":\"150\",\"caption\":\"Sheila Moghaddam Ghazvini\"},\"description\":\"Als Senior Marketing Manager Campaigns verantwortet Sheila bei Salesforce Deutschland die Kampagnen f\u00fcr die Marketing und Automotive Cloud. Sie setzt Schwerpunkte in den Bereichen Demand-Generation, Partner- und Social-Media-Marketing. Sheila bringt umfassende Erfahrungen im B2B-Marketing aus ihrer langj\u00e4hrigen Marketingt\u00e4tigkeit in diversen mittleren und gro\u00dfen SaaS-Software-Unternehmen ein.\",\"url\":\"https:\/\/www.salesforce.com\/de\/blog\/author\/sheila-moghaddam-ghazvini\/\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Explainable AI: Warum wir KIs verstehen m\u00fcssen - Salesforce","description":"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/","og_locale":"de_DE","og_type":"article","og_title":"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen","og_description":"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.","og_url":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/","og_site_name":"Salesforce","article_published_time":"2023-08-07T13:05:21+00:00","article_modified_time":"2024-01-09T16:33:01+00:00","og_image":[{"width":600,"height":400,"url":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","type":"image\/png"}],"author":"Sheila Moghaddam Ghazvini","twitter_card":"summary_large_image","twitter_misc":{"Verfasst von":"carolinschmitz","Gesch\u00e4tzte Lesezeit":"7 Minuten","Written by":"Sheila Moghaddam Ghazvini"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#article","isPartOf":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/"},"author":[{"@id":"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/c81bfdbf2ce05543dbf9eb95f9143ae4"}],"headline":"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen","datePublished":"2023-08-07T13:05:21+00:00","dateModified":"2024-01-09T16:33:01+00:00","mainEntityOfPage":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/"},"wordCount":1427,"commentCount":0,"publisher":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/#organization"},"image":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","inLanguage":"de","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/","url":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/","name":"Explainable AI: Warum wir KIs verstehen m\u00fcssen - Salesforce","isPartOf":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage"},"image":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage"},"thumbnailUrl":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","datePublished":"2023-08-07T13:05:21+00:00","dateModified":"2024-01-09T16:33:01+00:00","description":"KIs beeindrucken mit Texten, Bildern etc. Aber: Warum machen sie, was sie machen? Explainable AI (XAI) sucht Antworten \u2013 und das mit gutem Grund.","breadcrumb":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#breadcrumb"},"inLanguage":"de","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/"]}]},{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#primaryimage","url":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","contentUrl":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","width":600,"height":400,"caption":"Auf einem rosafarbenen Hintergrund ist ein blaues Fragezeichen zu sehen"},{"@type":"BreadcrumbList","@id":"https:\/\/www.salesforce.com\/de\/blog\/explainable-ai\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.salesforce.com\/de\/blog\/"},{"@type":"ListItem","position":2,"name":"Explainable AI: Warum wir unsere KIs verstehen m\u00fcssen"}]},{"@type":"WebSite","@id":"https:\/\/www.salesforce.com\/de\/blog\/#website","url":"https:\/\/www.salesforce.com\/de\/blog\/","name":"Salesforce","description":"Lesen Sie die neuesten Tipps und Trends f\u00fcr Ihr Business - rund um die Themen Marketing, Vertrieb, Service, IT und Commerce.","publisher":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/#organization"},"alternateName":"Salesforce","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.salesforce.com\/de\/blog\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"de"},{"@type":"Organization","@id":"https:\/\/www.salesforce.com\/de\/blog\/#organization","name":"Salesforce","url":"https:\/\/www.salesforce.com\/de\/blog\/","logo":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/logo\/image\/","url":"","contentUrl":"","caption":"Salesforce"},"image":{"@id":"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/logo\/image\/"}},{"@type":"Person","@id":"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/c81bfdbf2ce05543dbf9eb95f9143ae4","name":"Sheila Moghaddam Ghazvini","image":{"@type":"ImageObject","inLanguage":"de","@id":"https:\/\/www.salesforce.com\/de\/blog\/#\/schema\/person\/image\/45427fea99d0dafe3ac6eee756b7ae3c","url":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/06\/Sheila.png?w=150&h=150&crop=1","contentUrl":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/06\/Sheila.png?w=150&h=150&crop=1","width":"150","height":"150","caption":"Sheila Moghaddam Ghazvini"},"description":"Als Senior Marketing Manager Campaigns verantwortet Sheila bei Salesforce Deutschland die Kampagnen f\u00fcr die Marketing und Automotive Cloud. Sie setzt Schwerpunkte in den Bereichen Demand-Generation, Partner- und Social-Media-Marketing. Sheila bringt umfassende Erfahrungen im B2B-Marketing aus ihrer langj\u00e4hrigen Marketingt\u00e4tigkeit in diversen mittleren und gro\u00dfen SaaS-Software-Unternehmen ein.","url":"https:\/\/www.salesforce.com\/de\/blog\/author\/sheila-moghaddam-ghazvini\/"}]}},"jetpack_featured_media_url":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png","jetpack_sharing_enabled":true,"distributor_meta":false,"distributor_terms":false,"distributor_media":false,"distributor_original_site_name":"Salesforce","distributor_original_site_url":"https:\/\/www.salesforce.com\/de\/blog","push-errors":false,"primary_topic":{"term_id":57,"name":"Generative KI","slug":"generative-ai","term_group":0,"term_taxonomy_id":57,"taxonomy":"sf_topic","description":"Jeder spricht \u00fcber K\u00fcnstliche Intelligenz. Doch wie setzen sie diese am sinnvollsten in ihrem Unternehmen ein? Was steckt hinter Begriffen wie NLP, LLM, GAN und Co.? Hier bekommen Sie alle Infos, die Sie brauchen.","parent":0,"count":78,"filter":"raw"},"featured_image_url":"https:\/\/www.salesforce.com\/de\/blog\/wp-content\/uploads\/sites\/7\/2023\/08\/explainable-ai.png?w=600","_links":{"self":[{"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/posts\/6099","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/comments?post=6099"}],"version-history":[{"count":7,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/posts\/6099\/revisions"}],"predecessor-version":[{"id":9469,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/posts\/6099\/revisions\/9469"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/media\/6105"}],"wp:attachment":[{"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/media?parent=6099"}],"wp:term":[{"taxonomy":"sf_topic","embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/sf_topic?post=6099"},{"taxonomy":"sf_content_type","embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/sf_content_type?post=6099"},{"taxonomy":"blog","embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/blog?post=6099"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/www.salesforce.com\/de\/blog\/wp-json\/wp\/v2\/coauthors?post=6099"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}