Comment concevoir un meilleur Internet: technologie apaisante, humanisation de l'algorithme et nouveau PARC Xerox

par Amber Case

Parler à l'esprit du produit à Londres

C’est ma deuxième année en tant que membre du Centre pour l’Internet et la société Berkman Klein de Harvard et du groupe Civic Media du MIT Media Lab. J'ai étudié le lien entre la consommation de médias et l'augmentation de la dépression et de l'isolement. Mon prochain grand projet explorera la manière dont les médias et la technologie améliorent et suppriment l’être humain - et comment nous pouvons utiliser la technologie comme un outil, sans qu’elle ne nous utilise.

Après avoir passé tant de temps dans les milieux universitaires, je lance ce support pour partager les sujets qui me préoccupent le plus récemment et, espérons-le, inspirer une conversation plus large autour d'eux:

La fin de l'algorithme - et le début de l'IA assistée par l'homme

Depuis que j'ai rejoint le Centre Berkman en 2016, j'ai pu observer, aux côtés de mes collègues, les mutations technologiques surprenantes auxquelles nous sommes toujours confrontés en tant que société:

L’algorithme a priori a atteint les limites de son utilité: à la suite de la falsification des élections américaines, Facebook et Twitter luttent toujours pour faire face à l’effondrement des systèmes algorithmiques conçus pour optimiser les revenus publicitaires, mais sont prêts à être exploités - tout en maximisant la risque de dépression de l'utilisateur. Le problème fondamental des algorithmes est que vous ne pouvez les corriger que jusqu'à un certain point. après quoi, ils ressemblent à un ouroboros mangeant sa propre queue.

Je me souviens de la chaîne de magasins d’animaux domestiques qui avait remarqué que les données sur les ventes de sa gamme de friandises pour chiens étaient en baisse et s’apprêtait à les interrompre - jusqu’à ce qu’un ethnographe spécialisé dans le marketing se rendant dans les magasins lui fasse remarquer le problème que ces données ne sont pas montrant:

«Saviez-vous que vos friandises pour chiens sont stockées sur une étagère haute, où les enfants ne peuvent pas les atteindre?

Aucun algorithme ne peut supplanter l'expérience humaine. Et maintenant que notre confiance dans les algorithmes a été ébranlée, nous avons l'occasion de les revoir d'un œil critique. Joy Buolamwini, chercheuse au MIT, fait un travail remarquable en exposant le biais racial algorithmique des objets du quotidien et des algorithmes d'apprentissage automatique.

L'intelligence artificielle automatisée arrive à la fin de son utilité. Encore une fois, c’est l’effet ouroboros d’un serpent en train de dévorer sa queue. Mon regretté grand-père a travaillé sur l’intelligence artificielle, de même que mon défunt père après lui. C’est donc un sujet dont je parle depuis presque toute ma vie. Un point soulevé par mon père à propos de l'IA me résonne encore aujourd'hui, maintenant que nous sommes dans le dernier élan d'enthousiasme cyclique pour l'IA et l'apprentissage automatique:

Feu mon père et moi en 1989.

«Si vous avez un corps humain, vous vous sentez des brins d'herbe, vous avez une culture. Si cent mille personnes mettent leurs points de vue dans une IA, vous obtiendrez un reflet de ces personnes et de leurs préjugés. Mais vous n’auriez toujours pas accès aux données en temps réel ni à l’IA de penser. L’intelligence artificielle ne pouvait pas comprendre ce que cela signifiait de s’asseoir sur une pelouse ou de sentir ces brins d’herbe. "

Nous avons traversé une période d'attentes exagérées à l'égard de l'IA dans les années 80 et 90 et je constate la même chose aujourd'hui. Nous voyons le PDG de Google annoncer que l'IA sera bientôt «aussi puissant que l'électricité ou le feu», mais nous devons séparer le type d'IA ultra-avancée que nous avons rencontrée dans les films de science-fiction des robots et des processus qui sont largement une extension de la révolution industrielle.

L’IA participative est l’élégant terme utilisé par Joy Buolamwini pour désigner ce que nous devrions rechercher: ce n’est pas l’intelligence artificielle ambitieuse qui n’existe que dans les films, mais l’intelligence artificielle qui est parfaitement en symbiose avec l’intelligence humaine. Une IA qui effectue le gros du traitement des données - que l'homme corrige, ajuste, réoriente. Modèle beaucoup plus précis du fonctionnement réel de l'intelligence artificielle (du moins à moyen et à moyen terme), l'IA participative mine également les visions fantaisistes et apocalyptiques de Skynet, ou le chômage massif causé par l'automatisation, et nous aide plutôt à imaginer un avenir meilleur.

Ce qui m'amène à un autre de mes thèmes récurrents:

Un meilleur Internet, c'est un Internet plus calme

J'ai passé la dernière année en tournée avec Calm Technology. Ma trajectoire de vol couvrait 103 000 milles.

Mon livre de 2016 sur la conception sereine était une réponse au stress et à la distance que les appareils nous occasionnent souvent. Trop souvent, l’instinct du technologue est d’ajouter plus de bruit à notre technologie.

Par exemple, prenez la décision récente de rendre les réfrigérateurs «intelligents», en leur donnant des caméras internes pour détecter les articles à ajouter à la liste d’achats du propriétaire. (Généré, bien sûr, dans une application liée à un smartphone.) Considérez à quel point cela rend l'expérience de magasinage plus complexe. Les humains ont toujours du mal à identifier ce qui se trouve dans leur réfrigérateur à un moment donné. (Quand est-ce que j’ai acheté ce lait, est-il toujours bon? Que contient cette boîte à emporter et pourquoi est-ce même ici?) Le transfert de cette tâche à un appareil IoT risque d’ajouter un autre délai supplémentaire, lorsque des solutions plus simples existent. Comparez cela avec une alternative technologique calme: au lieu d'insérer une caméra de détection d'objet dans le réfrigérateur, donnez-lui une porte translucide.

Mais nous devrions tirer encore plus loin la caméra et nous demander pourquoi nous devrions même envisager d’appliquer l’expérience de l’épicerie. Cela va-t-il vraiment faire gagner beaucoup plus de temps qu’il vaut la peine de sacrifier les plaisirs mondains du shopping? (Et gagnez du temps pour quoi - pour parcourir davantage Facebook?) Ce qui manque dans cette approche, c’est la moindre réflexion sur la manière dont cette solution pourrait interagir avec la vie quotidienne du client.

Installation de l’épicerie virtuelle Homeplus de TESCO via MIT Technology Review

En Corée du Sud, en revanche, les gens peuvent faire leurs courses en attendant le métro - en pointant leur téléphone sur de grandes images codées d'épicerie affichées à la station et en sélectionnant les articles qu'ils veulent. Ces courses sont automatiquement commandées et livrées au domicile du client - et l’ennui des déplacements dans le métro se transforme en une activité qui a du sens.

Au cours des derniers mois, j’ai collaboré à la conception de produits avec son avec le co-auteur et concepteur d’expériences Aaron Day. Un suivi officieux de mon dernier livre, Designing with Sound, concerne l'amélioration des sons quotidiens, des interfaces utilisateur vocales aux réveils, en passant par les bureaux ouverts et les salles de conférence. La plupart des sons que nous entendons ne sont ni bien conçus, ni conçus. À mesure que le nombre d'alertes augmente, nous nous retrouvons dans un monde de plus en plus bruyant. Le son est peut-être l’un des aspects les plus négligés du design, mais il est de plus en plus important. Nous espérons pouvoir aider à donner à l'expérience utilisateur et aux concepteurs sonores un langage, un processus et un ensemble de principes permettant de créer de grandes expériences sonores.

Nous avons besoin d'un PARC Xerox pour l'ère post-algorithme

Je travaille actuellement sur plusieurs projets d'écriture et de conférences qui aborderont tous les thèmes que j'ai mis en lumière ici. Ce qui me frappe, c’est combien il ya à apprendre. Ce qu’il faut maintenant, c’est un nouveau groupe de réflexion de type Xerox PARC qui puisse avoir autant d’influence pour le siècle actuel que le premier en matière d’informatique grand public - un consortium ouvert de généralistes et d’artistes travaillant aux côtés de technologues. Dynamicland à Oakland (ci-dessus) est un candidat prometteur. Nous avons besoin de perspectives plus vastes et plus diversifiées, de recherches plus approfondies et d'une acceptation moins aveugle et de la confiance envers le nouveau.

Si nous ne le faisons pas, nous sommes voués à faire les mêmes erreurs encore et encore, avec des conséquences inattendues qui menacent d’avoir un impact beaucoup plus grand. C’était vrai lorsque j’ai prononcé mon premier discours sur l’anthropologie cyborg il ya près de dix ans, et maintenant, bien plus important.

Beaucoup plus sur ces thèmes bientôt. En attendant, j'espère que nous pourrons nous connecter sur Twitter.