Fino a qualche tempo fa era chiaro che al mondo esistevano oggetti animati e inanimati. Tra gli animati, un posto particolare spettava agli esseri umani che, essendo i soli dotati di autocoscienza e libero arbitrio, avevano diritti e doveri, responsabilità ed obblighi.

Gli esseri umani erano finora gli unici considerati “persone”, nel senso di dotati di identità e capacità di relazionarsi, cioè di pensare, interagire, abbracciare, amare, comunicare. Dal punto di vista giuridico esisteva anche la “personalità giuridica” riguardante le società, con relativi diritti e doveri, ma la differenza con la persona umana era ben chiara.

Ora tutto rischia di diventare molto più fluido. I robot, infatti, saranno sempre più in grado di elaborare, sulla base di complicati algoritmi, frasi, azioni, interazioni, comportamenti in modo autonomo e non prevedibile se non in minima parte. Ne segue una montagna di problemi mai sperimentati prima. Se un robot fa un danno chi paga? I robot autonomi fanno paura? Un bambino o un anziano di fronte ad un robot che simula “un grande affetto” come reagirà? I robot potranno superare l’intelligenza umana e diventare una minaccia?

Il Parlamento europeo ha elaborato una prima proposta di direttiva, con norme di diritto civile sulla robotica. Contiene la definizione di “robot intelligente”, norme sulla responsabilità civile e un codice etico-deontologico per la progettazione, lo sviluppo e l’uso dei robot, rivolto a ingegneri robotici, comitati etici di ricerca, progettisti, utenti.

Oltre a considerazioni su proprietà intellettuale, gestione dei dati, occupazione e responsabilità, il documento contiene una valutazione dei rischi per la sicurezza e la dignità umana. Si afferma per esempio che il contatto umano è uno degli aspetti fondamentali delle cure umane, per cui la sostituzione con i robot potrebbe disumanizzare le pratiche di accudimento.

Nella bozza di direttiva si chiede, tra l’altro, ai progettisti di:

– sviluppare sistemi di localizzazione in modo che in ogni momento si possa sapere dov’è il robot;

– garantire che il robot sia identificabile come tale all’atto di interagire con esseri umani, in modo da evitare che un umano possa scambiare un robot per un altro essere umano;

– prevedere un apposito pulsante di distruzione (kill switch), per essere sicuri di non perdere mai il controllo su queste “macchine pensanti”. Ma visto come le persone umane si affezionano ai cani, non potrebbe succedere lo stesso per i robot? E allora chi avrebbe il coraggio di premere quel pulsante?

Il dibattito è solo all’inizio…