Im Gegensatz zu aktuellen Modellen algorithmischer Transparenz, die von einer rein algorithmischen Konstruktion einer Erklärung ausgehen, verfolgt das Projekt B01 einen ko-konstruktiven Ansatz für den interaktiven und domänenspezifischen Prozess zwischen Erklärendem und Adressaten. Das Ziel ist es, ein Dialogprotokoll zu entwickeln und zu ko-konstruieren, das in einer spezifischen Domäne von sozialer Relevanz (Gesundheit, Versicherung oder Polizeiarbeit) verwendet wird. Das interaktive Frage-Antwort-Protokoll wird sich auf kontrafaktische Fragen konzentrieren, die das Verständnis dafür verbessern, wie Eingaben mit den Ausgaben eines Klassifikators zusammenhängen.
In Project B01, researchers are working on an artificial intelligence (AI) based system that can properly respond to questions at the level of language. In medicine, for example, the system should be able to explain a proposed treatment to a doctor and respond to patients’ questions and concerns regarding their treatment plan. The computer scientists and sociologists working on this project are including users’ perspectives in their research. For this, they are observing how, for instance, healthcare workers adopt this AI system and what requirements they have of the system. Based on these results, the researchers are developing a dialog system that can be used in a number of different areas of society.