Interpretovatelnost a vysvětlitelnost systémů umělé inteligence

Jan Hendl

		Interpretovatelnost a vysvětlitelnost systémů umělé inteligence Jan Hendl
		ABSTRAKT: Příspěvek podává přehled o tom, co je vysvětlitelná a interpretovatelná umělá inteligence (AI) a uvádí doporučení, která přispívají k zvýšení důvěry v AI a mohou vývojovým pracovníkům pomoci při vytváření důvěryhodných AI systémů. Stručně se zabýváme modelově agnostickými metodami se zvláštním zaměřením na nejznámější z nich LIME a SHAP. Více Klíčová slova: umělá inteligence, LIME, SHAP, XAI DOI: 10.35191/medsoft_2024_1_36_hendl Skrýt
		Explainability and interpretability of AI systems ABSTRACT: Recently, the term "language model" has appeared frequently in publications for the general public or in the medicine literature. However, readers usually do not know what this term actually means. We are going to give some background on this term. Often, in this context, it refers to the attractive interactive system ChatGPT for suggesting answers to various questions. More The paper gives an overview of explainable and interpretaible artificial intelligence and describes some points that contribute to establishing trust and can provide developers with principles for creating trusted AI systems. We briefly look at model-agnostic methods with a special focus on the most famous of them, namely LIME and SHAP. Keywords: artificial intelligence, LIME, SHAP, XAI DOI: 10.35191/medsoft_2024_1_36_hendl Hide