Black‑Box‑Problem: Tiefe Netze mit Milliarden Parametern liefern Vorhersagen, aber keine Begründungen. Das untergräbt Vertrauen.
Techniken: SHAP‑Values, Counterfactual Explanations und Layer‑wise Relevance Propagation bieten Einblicke, bleiben jedoch komplex.
Rechtliche Sicht: Die DSGVO fordert ‘Erklärbarkeit bei Profiling’. Unternehmen müssen deshalb XAI‑Pipelines einplanen, bevor Produkte live gehen.