Moral Experience: Spunti di riflessione tra etica, comportamento e interaction design

Sin dai miei primi anni da studente universitario, la ricerca di qualcuno con cui perfezionare la mia capacità di dialogare in lingua inglese ha trovato un notevole supporto in una delle feature di Skype, noto sistema di instant messaging e VoIP.

La funzione SkypeMe! aumenta infatti la probabilità di essere contattati da estranei: selezionando una sorridente faccina gialla, il proprio nome viene inserito in una lista di utenti, a cui si accede tramite un motore di ricerca interno al software; vengono inoltre disabilitati i setting di privacy, in modo da consentire a chiunque di iniziare una chat o una chiamata. L’esistenza di questa opzione facilita perciò la ricerca di persone (apparentemente) disposte a comunicare qui ed ora con uno sconosciuto.

Qualche tempo fa, aggiornando il programma alla versione 4, la funzione SkypeMe! è scomparsa dall’interfaccia. Quale ragione ha determinato una simile scelta di design?
La risposta fornita da uno dei responsabili del sito di Skype è la seguente: agli utenti non è chiaro che, attivando quell’opzione, si rendono contattabili da chiunque.

Ovviamente, possiamo immaginare che per qualsiasi persona sia fastidioso ricevere messaggi da un certo numero di sconosciuti, che (per qualche “strana” ragione) non solo possiedono il suo username, ma si sentono persino legittimati a contattarla. SkypeMe! è uno strumento che, certamente, può creare un canale per attività di scamming, spamming o cyberstalking. Ma il motivo della sua rimozione non riguarda principalmente il suo utilizzo da parte di vari malintenzionati.

L’utente medio non è consapevole del significato della funzione attivata, creando una situazione per la quale qualsiasi individuo lo contatti compie un’azione sospetta e inappropriata, al di là delle sue effettive intenzioni.

Potremmo dire che i designer intendevano rimuovere queste interazioni indesiderate dall’esperienza degli utenti, valutando perciò dei fattori che non riguardano strettamente gli scopi e la funzionalità del sistema. Il processo di design ha considerato un giudizio (persino errato) di illegittimità di un’interazione da parte di un potenziale utente: il progettista (forse anche solo intuitivamente) presta attenzione a costrutti e categorie che tendono a definire “giusto” o “sbagliato” un dato comportamento, costrutti e categorie etiche.

Partendo da questo piccolo esempio, il presente articolo intende sensibilizzare chi esperisce e chi progetta interazioni mediate alla riflessione morale nell’analisi dei sistemi uomo-tecnologia, integrando la prospettiva del design orientato esclusivamente alla funzionalità degli strumenti con quella di un design responsabile che consideri l’utente nella sua globalità di persona, portatrice di diritti e doveri, ponendo i valori come fattori che contribuiscono a determinare qualità e sostenibilità di una Moral Experience.

Etica, Comportamento e Interaction Design?

Come evidenziato da Toni Robertson nel suo articolo “Ethical issues in Interaction Design”, il processo di progettazione deve basarsi su assunzioni eticamente rilevanti sulle potenzialità d’azione introdotte da una specifica tecnologia, allo scopo di individuare quali interazioni devono essere permesse o potenziate e quali invece devono essere limitate e ostacolate da specifici accorgimenti progettuali, in base alla previsione del comportamento dell’utente e delle sue conseguenze. Queste potenzialità d’azione vanno viste sia in termini di ciò che l’utente può fare, sia di ciò che lo strumento è stato progettato per poter fare.

A mio parere, gli elementi più immediatamente identificabili nelle interazioni mediate eticamente critiche sembrano perciò essere:

• i comportamenti degli utenti (sia di relazione tra loro stessi che di fruizione dello strumento o degli oggetti a cui hanno accesso), permessi o meno dal design del sistema utilizzato;
• i “comportamenti” degli strumenti (sia i processi di raccolta ed elaborazione dati, sia quelli di feedback e le proprietà che influiscono sul comportamento degli utenti) implementati nel sistema.

Inoltre, in presenza di un problema etico nel sistema uomo-tecnologia, le responsabilità saranno distribuite tra utenti (in relazione ai loro comportamenti), progettisti (in relazione alle potenzialità d’azione dello strumento realizzato) e organizzazioni (in relazione agli scopi per i quali le tecnologie sono state introdotte).

Robertson (ibidem) sottolinea la necessità di stabilire delle basi morali per definire i criteri attraverso cui esprimere una scelta tra diverse possibili soluzioni di design, altrimenti considerate equivalenti in termini di funzionalità e usabilità, in relazione al set di possibili interazioni che da esse derivano.

Il quadro delineato sin qui dimostra sia la complessità che la rilevanza della questione e il possibile coinvolgimento di differenti discipline:

• l’Etica individua i problemi, le fattispecie, i fenomeni eticamente rilevanti anche nello scenario dell’interazione uomo-tecnologia;
• la Psicologia studia i comportamenti degli utenti, tra i quali quelli che determinano alcuni dei problemi etici;
• l’Interaction Design progetta e analizza anche tecnologie che elaborano dati sensibili, permettono (o meno) e manipolano icomportamenti degli utenti in relazione ai problemi eticamente critici.

Si tratta di impostare la creazione dei modelli di interazione su cui si basa il design tecnologico in modo da ottimizzarli per un’esperienza eticamente sostenibile: la Moral Experience diventa l’obiettivo da raggiungere, grazie ai contributi di discipline specifiche, come Cyberetica, Cyberpsicologia o Value-Sensitive Design, di cui vanno sintetizzati linguaggi in un sistema capace di rappresentare ogni problema nel suo insieme e nella sua organicità: considerare l’esperienza dell’utente come un processo strutturato da interazioni tecnologicamente mediate da “pesare” in termini valoriali.

Cyberetica: Prospettive sui Problemi

La Cyberetica può essere definita come lo studio delle questioni morali, legali e sociali che coinvolgono le tecnologie del cyberspazio, come proposto da Herman T. Tavani nel suo “Ethics and Technology: Ethical Issues on an Age of Information and Communication Technology”. Nel testo vengono presentati due punti di vista sulla natura di tali questioni:

• quello dei promotori della tradizionalità dei problemi etici (l’identificazione di un crimine prescinde dalla forma o dal mezzo con cui è commesso), che tendono però a sottostimare, ad esempio, due caratteristiche cyber-specifiche delle azioni mediate come scalabilità (es. lo stalker può molestare diverse vittime simultaneamente) ed estensione (es. da un qualsiasi luogo, lo stalker può molestare vittime distribuite sul globo);
• quello dei sostenitori dell’unicità dei problemi cyberetici (senza simili tecnologie tali questioni non sarebbero mai sorte), che tendono fermarsi alle proprietà uniche introdotte dal medium (es. la mediazione invece del contatto sensoriale fisico cercato dal molestatore) senza ponderare accuratamente i tratti della questione (es. la persistenza del persecutore nella ricerca di un contatto con la vittima) che si propongono pure in eventi analoghi non appartenenti al contesto tecnologico.

Le difficoltà nell’analizzare e categorizzare le attività svolte in maniere sempre più imprevedibili tramite ogni nuovo tool lanciato sul mercato comportano spesso, a livello legislativo, un’assenza di norme adeguate, che può essere indice della criticità etica della questione. La natura sfuggente, pervasiva e adattabile (ad un numero indefinito di compiti) di ogni innovazione nelle ICT può portare a vuoti normativi individuabili con estremo ritardo e viralmente diffusi in diversi ambiti dell’attività umana. Un esempio può essere quello della pirateria informatica negli anni ’80, che ha portato alla necessità di definire giuridicamente cosa fosse un software e che implicazioni etiche avesse la sua duplicazione (furto? e, visto che non è un oggetto materiale, di che tipo? appropriazione illecita di un’opera d’ingegno? perciò plagio? oppure uso indebito?).

La Cyberetica può dunque proporsi come disciplina applicata, tesa ad individuare le categorie etiche appropriate per analizzare i problemi pratici nei contesti tecnologici. Questo importante contributo, costituito da teorie, casi, proposte di regolamentazione, codici professionali e linee guida, si rivolge agli specifici problemi di: giuristi, consulenti aziendali, informatici, esperti di comunicazione, designer, insegnanti, ricercatori, soggetti sperimentali e tutti gli utenti di cybertecnologie.

L’importanza di questa consapevolezza verso le problematiche derivate dalle nuove tecnologie dell’informazione deve permeare tutti i livelli della società, così da definire in modo chiaro diritti e doveri (e sanzioni) a cui fare riferimento. La definizione delle fattispecie non può prescindere perciò dalla conoscenza degli aspetti tecnici che rendono un sistema informatico eticamente critico e dai comportamenti che determinano tale criticità.

Cyberpsicologia e Interazioni Pericolose

La Cyberpsicologia, lo studio dei processi psicologici che si manifestano nell’interazione uomo-cybertecnologia, offre diversi contributi nell’analisi delle problematiche eticamente rilevanti nella dimensione digitale dell’esperienza umana. Una realtà tanto coinvolgente da indurre fenomeni come la Presenza, la sensazione di condividere lo stesso spazio con un altro individuo, oggetto o evento nello stesso momento tramite una mediazione tecnologica, di cui i comunicanti perdono gradualmente la consapevolezza. La mediazione tecnologica modella perciò le nostre interazioni e i nostri comportamenti, in base a potenzialità e vincoli che possono però avere effetti disadattivi sulle nostre modalità di pensiero e azione, ottimizzate durante il corso dell’evoluzione per interazioni non-mediate come quella della comunicazione faccia a faccia, come ipotizzato nella Media Naturalness Theory di Ned Kock. Secondo questa teoria, la mediazione tecnologica, priva degli elementi chiave di quella faccia a faccia, determina maggiore sforzo cognitivo e ambiguità comunicativa rispetto ad attività collaborative non mediate.
In particolare, gli elementi chiave mancanti rispetto alla condizione face-to-face potrebbero essere fattori determinanti nell’autoinibizione di condotte altrimenti disadattive, come quelle che possono aver luogo nelle interazioni mediate. John Suler sostiene infatti che esista un Online Disinhibition Effect, che consiste proprio nella tendenza a compiere azioni, in ambienti di comunicazione mediata, che nella realtà non avrebbero luogo. L’effetto può manifestarsi su due livelli.

La disinibizione benigna (condivisione di vissuti intimi oppure atti di generosità e gentilezza) è tesa a conoscere altre persone e farsi conoscere in risposta ad un desiderio di cambiamento nella propria vita, anche sovrastimando il rispetto alla privacy in contesti di comunicazione mediata, rivelando molte più informazioni personali rispetto ad una condizione di comunicazione ordinaria. Individuare i fattori di design che determinano la disinibizione benigna sarebbe un ricco dono per progettisti di  landing page alla caccia di conversioni, o per truffatori dediti a scamming e phishing.

La disinibizione tossica (comportamenti impropri e ricerca degli equivalenti online di situazioni che non verrebbero esperite nella realtà poiché socialmente sconvenienti, dall’offesa razzista su un blog allo scambio di immagini pedopornografiche) oscilla tra il desiderio di sfoghi liberatori e la ricerca della soddisfazione di impulsi che non implicano alcuna crescita personale. In alcuni casi, potremmo ipotizzare che, accanto al coinvolgimento esistente nella presenza online, esistano una serie di processi, come la consapevolezza del proprio anonimato e della propria invisibilità online, in base ai quali l’utente pianifica le proprie azioni considerando le potenzialità di reazione della parte lesa: la comunicazione online ci dà l’illusione di essere non-mediata, ma percepiamo implicitamente la protezione che la mediazione ci garantisce.

Queste (spesso inevitabili) proprietà di design tecnologico che “invitano” l’utente ad un uso “disinibito” del mezzo (“disinhibition affordance”?) contribuiscono ad una trasformazione valoriale che facilita il passaggio dall’uso all’abuso del sistema informatico, contro altri o contro se stessi. Ma le trasformazioni valoriali derivanti dalle potenzialità d’azione introdotte dalle tecnologie interattive non si esauriscono qui, e richiedono analisi specifiche e non generalizzazioni frettolose in base a ciò che già sappiamo sul comportamento umano.

Ad esempio, l’esistenza di fenomeni in ambito videoludico come il goldfarming (accumulo di denaro virtuale in un mmorpg in vista della sua vendita per denaro reale ad altri giocatori) o il powerleveling (accrescere il livello di un personaggio altrui in un gioco online dietro pagamento di denaro) mettono in discussione la tendenza a liquidare i fenomeni di dipendenza da videogame tramite analogie con l’abuso di droghe o i disturbi ossessivo-compulsivi: né un’iniezione di eroina né una coazione a ripetere potrebbero essere delegabili! Se fosse coinvolto un processo di condizionamento, il rinforzo potrebbe essere non tanto il gioco in sé (come molti credono) quanto l’istante in cui viene raggiunto un riconoscimento e lo status che ne deriva nella comunità a cui si appartiene. Un esempio di problema valoriale: quanti sacrifici (denaro, tempo da dedicare ad amici e parenti o semplicemente al sonno) vale il raggiungimento di un achievement in un videogame? Il problema etico (sperando che l’obiettivo non sia proprio creare una dipendenza nell’utente) che ne deriva per il progettista è: quali proprietà di design inducono questo comportamento?

Il Game Design è uno dei terreni in cui la Cyberpsicologia può trovare diversi spunti di ricerca nello studio del comportamento mediati da computer, dato che nei videogame è possibile vivere esperienze simulate di ogni genere, con potenzialità d’azione e vincoli differenti da quelli offerti o imposti dalla vita reale.  In Fable (gioco fantasy analizzato da Peter Rauch in “Playing with Good and Evil: Videogames and Moral Philosophy”) l’aspetto fisico del personaggio si trasforma in base alle scelte attuate dal giocatore: il suo “allineamento” morale può essere rappresentato lungo un continuum di feature che vanno dalle fattezze angeliche a quelle demoniache. Ciò che colpisce è che il designer stabilisce la valenza etica di una certa decisione: accompagnare un condannato a morte a scontare la pena sarà un atto “giusto” e salvarlo contravvenendo alle leggi dello stato sarà un atto “sbagliato”?  In quest’articolo non desidero soffermarmi sui possibili effetti diseducativi (la letteratura scientifica è colma, ad esempio, di ricerche dai risultati contraddittori sulla correlazione tra uso di videogame e comportamenti antisociali) delle retoriche videoludiche, ma approfitto di questo caso per sottolineare il lavoro con cui i designer hanno ideato le interazioni e le esperienze vissute dal giocatore, connotandole a livello valoriale per progettare i dilemmi morali nel videogame.

Un approccio psicologicamente informato ed eticamente critico al design tecnologico è sicuramente la celebre Captology (Computer As Persuasive TechnOLOGY) di B.J. Fogg:  lo studio delle proprietà persuasive delle tecnologie informatiche, tese verso il cambiamento di idee, atteggiamenti e comportamenti degli utenti. Ne derivano nuovi specifici principi, che diventano linee-guida per un persuasive design. Fogg discute in modo molto articolato la criticità etica delle tecnologie persuasive, partendo da alcuni esempi, come un videogame che pone la richiesta di rispondere a domande sulle proprie abitudini per poter continuare a giocare, o un motore di ricerca che propone come prima opzione d’acquisto un computer più costoso della media, evidenziando la politica ambientale della società che lo produce ma non i commenti dei consumatori riguardo la sua qualità costruttiva. In Persuasive Technology, Fogg osserva che:

1)La novità della tecnologia ne può occultare l’intento persuasivo.
2)La tecnologia persuasiva può sfruttare la buona reputazione dei computer.
3)Il computer può essere estremamente insistente.
4)I computer hanno il controllo sulle possibilità interattive.
5)I computer possono influenzare le emozioni senza venirne influenzati.
6)I computer non possono assumersi alcuna responsabilità.

Inoltre, Fogg sottolinea che l’eticità di una tecnologia (e la conseguente responsabilità del progettista) dipende da intenzionalità e prevedibilità delle conseguenze, dai metodi persuasivi (come il condizionamento operante) e dalla vulnerabilità del target (es. anziani, disabili, stranieri, bambini, malati, principianti). Bisogna perciò informare e responsabilizzare progettisti, utenti e giuristi nel considerare i complessi rischi delle nuove tecnologie, e le loro, spesso trascurate, potenzialità (es. videogame persuasivi per motivare l’utente a corrette abitudini alimentari, ad un trattamento terapeutico o allo studio).

Una triplice proposta: il Value Sensitive Design

Il Value Sensitive Design è un (non l’unico) approccio al design basato su modelli che considerano i valori umani durante la progettazione, processi risultanti dall’interazione situata in un determinato contesto. Utilizza una metodologia iterativa tripartita, che integra indagini concettuali, empiriche e tecniche. Diverse ricerche si sono concentrate su valori di privacy, proprietà, benessere fisico dell’utente, libertà da distorsioni sistematiche di giudizio, autonomia, consenso informato, fiducia, usabilità e accessibilità universali. Un articolo di Batya Friedman, Peter H. Kahn Jr. e Alan Borning, intitolato “Value Sensitive Design: Theory and Methods“, descrive in maniera ben articolata questa tripartizione metodologica (che non necessariamente segue la stessa sequenza di fasi per tutti i casi in cui è applicata).

Indagini concettuali

Una fase riguarda la definizione e la selezione dei valori da considerare nel processo di design, anche in relazione, ovviamente, con le caratteristiche funzionali ed estetiche dello strumento da progettare. Questo livello di concettualizzazione deve basarsi sui costrutti (es. cosa implica il “consenso informato”?) e casi di una dialettica filosofico-giuridica che dia significato eticamente rilevante agli elementi dei modelli di esperienza che guideranno il processo di design nella selezione delle interazioni da facilitare o da escludere.

Un esempio di questo tipo di procedura riguarda l’individuazione degli  stakeholders indiretti, quelli su cui ha effetto l’attività del sistema uomo-tecnologia (es. nella condivisione di dati personali ad essi riferiti) senza esser coinvolti nell’interazione (es. pazienti di cui medici ed assicurazioni trattano i dati).

Indagini empiriche

Le indagini empiriche del contesto in cui si situa il sistema uomo-tecnologia utilizzano metodi di ricerca quantitativa e qualitativa per ottenere osservazioni e misurazioni del comportamento dell’utente e di altri indici (es. eye-tracking) necessari allo studio dell’interazione. Esperimenti e checklist tipiche dell’analisi ergonomica vengono utilizzate, ad esempio, per ottenere un modello del comportamento dell’utente, delle sue motivazioni e aspettative, del carico di lavoro mentale e di altri fattori che toccano anche l’ambito dell’Usabilità. In quest’ultimo caso, il rapporto tra Value Sensitive Design e Usability si può configurare in 4 modi nella valutazione di un sistema:

• indipendenza tra i due fattori, con un buon livello di usabilità e un buon livello di compatibilità etico-valoriale (es. interfaccia altamente usabile che può anche promuovere l’autonomia di alcuni categorie di utenti senza essere progettata per questi ultimi);
• alta usabilità del sistema a spese della compatibilità etico-valoriale (es. sistemi di sorveglianza efficaci ed efficienti che minano la privacy di chi è osservato);
• alta compatibilità etico-valoriale a spese del livello di usabilità (es. un browser che richieda all’utente di selezionare accettazione o rifiuto di ciascun cookie durante la navigazione);
• dipendenza tra i due fattori, con un’usabilità che deve considerare fattori di tipo etico per rendere pienamente funzionale il sistema (es. un sistema di voto elettronico deve essere realizzato in modo che tutti i cittadini possano esprimere consapevolmente la loro scelta).

Indagini tecniche

La prospettiva del Value Sensitive Design richiede, a livello tecnico, un’analisi dei vincoli e delle potenzialità d’uso degli strumenti esistenti per valutare successivamente se rispettano o violano determinati valori, cercando di gestire le ambiguità che possono derivare nel definire, entro un quadro di interattività, i limiti di ciascun soggetto coinvolto nello schema: anche un semplice calendario online può comportare problemi quando risponde all’esigenza di migliorare la consapevolezza degli impegni reciproci da parte dei membri di un team di lavoro a scapito della privacy di ciascuno di essi, problema risolvibile tramite l’introduzione della possibilità di personalizzare i setting di visualizzazione delle informazioni personali.

Tale tripartizione sembra riflettere e ribadire la sequenza di tematiche proposta in questo articolo: definizione dei problemi etici, studio empirico dei fenomeni comportamentali, analisi delle proprietà tecnologiche. La Cyberetica e la Cyberpsicologia dovrebbero essere sia presupposti che parti integranti (e integrate) del processo di Value Sensitive Design, che ne diverrebbe un ulteriore punto di convergenza. E di ripartenza, per un arricchimento reciproco dei tre punti di vista sui problemi etici nell’ambito delle cybertecnologie.

Jun 02, 2010 | Tematiche: Design delle interfacce e dell'interazione, In evidenza | Tags: Cyberethics, Cyberpsychology, Design delle interfacce e dell'interazione, Idee, interaction design, Progettare e vivere l'esperienza d'uso, strategie e innovazione, user experience, Value Sensitive Design | Commenta »