ABSTRACT
With artificial intelligence (AI) and automation embedded in most aspects of life from healthcare to transportation, this article conceptualizes how increasing automation will benefit or inhibit the therapeutic encounter. Five levels of a model are outlined, from the human analogue to the fully autonomous virtual (AI) therapist. The levels are referenced against key elements of the therapeutic encounter known to contribute to an effective therapeutic outcome, from the working alliance, to collaborative elements, to a confidential setting. Losses and gains are discussed through these and other aspects, such as the neurobiological, and the capability to notice what is not there in the process as well as what is, around the client’s aim of change or awareness. The objective is not to pit human therapists against non-human systems, but to propose a human-centred framework for the integration of AI into clinical reality, by introducing a taxonomy model of human–machine interaction (HMI), to see how each contributes, and to evaluate areas of risk and harm. Questions are raised around ethics, therapeutic process and crucially the very nature of what it is to be in a therapeutic encounter for a human client together with a human or AI therapist.
ABSTRAKT
Da künstliche Intelligenz (KI) und Automatisierung in die meisten Aspekte des Lebens eingebettet sind, vom Gesundheitswesen bis zum Transportwesen, wird in diesem Artikel konzeptualisiert, wie eine zunehmende Automatisierung die therapeutische Begegnung begünstigt oder hemmt.
Es werden fünf Ebenen eines Modells skizziert, vom menschlichen Analogon bis zum vollständig autonomen virtuellen (KI) Therapeuten. Die Stufen werden mit Schlüsselelementen der therapeutischen Begegnung verglichen, von denen bekannt ist, dass sie zu einem effektiven therapeutischen Ergebnis beitragen, von der Arbeitsallianz über kollaborative Elemente bis hin zu einem vertraulichen Umfeld.
Verluste und Gewinne werden durch diese und andere Aspekte diskutiert, wie z. B. die neurobiologische und die Fähigkeit, zu bemerken, was im Prozess nicht vorhanden ist und was ist, um das Ziel des Klienten der Veränderung oder des Bewusstseins zu erreichen.
Ziel ist es nicht, menschliche Therapeuten gegen nicht-menschliche Systeme auszuspielen, sondern einen menschenzentrierten Rahmen für die Integration von KI in die klinische Realität vorzuschlagen, indem ein Taxonomiemodell der Mensch-Maschine-Interaktion (HMI) eingeführt wird, um zu sehen, wie jeder dazu beiträgt, und um Risiko- und Schadensbereiche zu bewerten.
Es werden Fragen rund um die Ethik, den therapeutischen Prozess und vor allem die Natur dessen aufgeworfen, was es bedeutet, in einer therapeutischen Begegnung für den menschlichen Klienten zusammen mit einem menschlichen oder KI-Therapeuten zu sein.
RESUMEN
Con la inteligencia artificial (IA) y la automatización integradas en la mayoría de los aspectos de la vida, desde la atención médica hasta el transporte, este artículo conceptualiza cómo el aumento de la automatización beneficiará o inhibirá el encuentro terapéutico. Se esbozan cinco niveles de un modelo, desde el análogo humano hasta el terapeuta virtual (IA) totalmente autónomo. Los niveles se referencian con elementos clave del encuentro terapéutico que se sabe que contribuyen a un resultado terapéutico efectivo, desde la alianza de trabajo, hasta los elementos de colaboración, hasta un entorno confidencial. Las pérdidas y ganancias se discuten a través de estos y otros aspectos, como el neurobiológico y la capacidad de notar lo que no está en el proceso, así como lo que está, en torno al objetivo de cambio o conciencia del cliente. El objetivo no es enfrentar al terapeuta humano con el sistema no humano, sino proponer un marco centrado en el ser humano para la integración de la IA en la realidad clínica, mediante la introducción de un modelo de taxonomía de la interacción hombre-máquina (HMI), para ver cómo contribuye cada uno y evaluar las áreas de riesgo y daño. Se plantean preguntas en torno a la ética, el proceso terapéutico y, lo que es más importante, la naturaleza misma de lo que es estar en un encuentro terapéutico para el cliente humano junto con el terapeuta humano o de IA.
ABSTRAIT
Avec l’intelligence artificielle (IA) et l’automatisation intégrées dans la plupart des aspects de la vie, des soins de santé aux transports, cet article conceptualise comment l’automatisation croissante bénéficiera ou inhibera la rencontre thérapeutique. Cinq niveaux de modèle sont décrits, de l’analogue humain au thérapeute virtuel (IA) entièrement autonome. Les niveaux sont référencés par rapport aux éléments clés de la rencontre thérapeutique connus pour contribuer à un résultat thérapeutique efficace, de l’alliance de travail aux éléments de collaboration, en passant par un cadre confidentiel. Les pertes et les gains sont discutés à travers ces aspects et d’autres, tels que le neurobiologique et la capacité de remarquer ce qui n’est pas là dans le processus ainsi que ce qui existe, autour de l’objectif de changement ou de prise de conscience du client. L’objectif n’est pas d’opposer un thérapeute humain à un système non humain, mais de proposer un cadre centré sur l’humain pour l’intégration de l’IA dans la réalité clinique, en introduisant un modèle taxonomique d’interaction homme-machine (IHM), pour voir comment chacun contribue, et évaluer les zones de risque et de préjudice. Des questions sont soulevées autour de l’éthique, du processus thérapeutique et, surtout, de la nature même de ce que signifie être une rencontre thérapeutique entre un client humain et un thérapeute humain ou IA.
ΠΕΡΊΛΗΨΗ
Με την τεχνητή νοημοσύνη (AI) και την αυτοματοποίηση να έχουν ενσωματωθεί στις περισσότερες πτυχές της ζωής, από την υγειονομική περίθαλψη έως τις μεταφορές, το παρόν άρθρο αξιολογεί το πώς η αυξανόμενη αυτοματοποίηση θα ωφελήσει ή θα εμποδίσει τη θεραπευτική συνάντηση. Περιγράφονται πέντε επίπεδα ενός μοντέλου, από την αναλογία με το ανθρώπινο έως τον πλήρως αυτόνομο εικονικό θεραπευτή (AI). Τα επίπεδα αναφέρονται σε σχέση με βασικά στοιχεία της θεραπευτικής συνάντησης που είναι γνωστό ότι συμβάλλουν σε μια αποτελεσματική θεραπευτική έκβαση, από τη θεραπευτική συμμαχία, τα συνεργατικά στοιχεία, έως ένα εμπιστευτικό περιβάλλον. Οι απώλειες και τα κέρδη συζητώνται μέσω αυτών και άλλων πτυχών, όπως η νευροβιολογική, και της ικανότητας να παρατηρούμε τι απουσιάζει από τη διαδικασία καθώς και τι υπάρχει, γύρω από το στόχο του πελάτη για αλλαγή ή συνειδητοποίηση. Ο στόχος δεν είναι να αντιπαρατεθεί ο ανθρώπινος θεραπευτής με το μη ανθρώπινο σύστημα, αλλά να προταθεί ένα ανθρωποκεντρικό πλαίσιο για την ενσωμάτωση της τεχνητής νοημοσύνης (AI) στην κλινική πραγματικότητα, με την εισαγωγή ενός μοντέλου ταξινόμησης της αλληλεπίδρασης ανθρώπου-μηχανής (HMI), για να δούμε πώς συμβάλλει το καθένα και να αξιολογήσουμε τους τομείς κινδύνου και ζημίας. Εγείρονται ερωτήματα σχετικά με την ηθική, τη θεραπευτική διεργασία και, κυρίως, την ίδια τη φύση του τι είναι να είσαι σε μια θεραπευτική συνάντηση ανθρώπινου πελάτη μαζί με ανθρώπινο θεραπευτή ή θεραπευτή τεχνητής νοημοσύνης (AI).
SCHLÜSSELWÖRTER:
PALABRAS CLAVE:
ΛΈΞΕΙΣ-ΚΛΕΙΔΙΆ:
Disclosure statement
No potential conflict of interest was reported by the author(s).
Notes
2. OED.
3. OED.
Additional information
Notes on contributors
Helen Molden
Dr Helen Molden, DCPsych, is an integrative psychotherapist and counselling psychologist working in independent practice with organizations and individuals, as a clinician and researcher. No AI or automation was knowingly employed in the making of this article.