Code & Éthique
Si "Code is Law", à qui incombe l'éthique ?
DACHFest · 10 nov. 2018
Capitole du Libre · 17 nov. 2018
Meilleur Dev de France · 23 oct. 2018
@m4d_z https://talks.m4dz.net/code-n-ethics/fr/Le futur, c’est maintenant Bien ou Mal ?Point where Good and Evil melt Can be sure of what we do DronesKernel Linux embarqué ?
L’éthique est une notion variable Depends of the context Depends of the use Depends of the question to answer
Il n’y a pas…
de métriques de référentiels de lois définissant précisément l’éthique dans l’absolu Problem: we are computer scientists We are binary people, thinking binarily We are used to manipulate logic gates La technologie n’est pas neutre , elle a un impact dans le réel au quotidien
If you die in the Matrix, you die in real lifepeople live thanks to the technology (peacemaker) people die because of technology (drones) Qu’est-ce que l’éthique ? Antiquité & Philosophie first ask ancient philosophers L’éthique, ça n’est pas
la morale publique les règles de vie communautaires les conventions sociales l’étiquette Not a question of morality not a question of living together L’éthique aristotélicienne l’expérimentation dans les domaines de la vie la recherche de vérité dans les actions quotidiennes Ce n’est pas pour savoir ce qu’est la vertu en son essence que nous effectuons notre enquête, mais c’est afin de devenir vertueux, puisqu’autrement cette étude ne servirait à rien.
Aristote in Éthique à Nicomaque II
Penser les questions d’éthique est un problème de richeInteresting But thinking about ethics is a richpeople problem Craftspeople don’t have time
La vraie morale se moque de la morale.
Blaise Pascal
later thinking about ethic doesn’t imply about morality ethics isn’t a value for society L’approche scientifique n’est pas l’approche éthiquescience analyze facts to think about hypothesis ethics think about what needs to be done problem: we, software peole, are scientists
Choix vs. Décision choice means you have to select between existing hypothesis decision implies you have to bring your own morality in the balance (which machines can’t do)
Homo Sapiens Deus Who are we now, as humans? L’être humain n’est pas une espèce matureHuman needs 10 to 15 years to be autonomous Human still learn Despite, Human kill and destroy in war However, Human can think about its condition
Pourtant, l’Homme possède des pouvoirs divins
Il peut créer la vie… Boston Dynamics experiments
Dieu crée les dinosaures. Dieu détruit les dinosaures. Dieu crée l’homme. L’homme détruit Dieu. L’homme crée les dinosaures…
Dr Ian Malcolm
L’Homme sait créer à son image Deus Ex Machina
Her« Homo Deus » Le remplacement de l’humanité La religion du Big Data Yuval Noah Harari Humandkind replaced by machines in a Big Data paradigm, Homo Sapiens may not be dominant In fact, in a world where IA could already know us more than ourselves, which classes still control the IA ? Vos savants étaient si pressés par ce qu’ils pourraient faire ou non qu’ils ne se sont pas demandé s’ils en avaient le droit.
Dr Ian Malcolm
not here to say if it’s good or not it’s just evolution sapiens here for 200 to 300 centuries, it’s nothing we’re building our own future as dominant form Penser vs. Créer would we just want to create things? would we want to think about what we are creating?
Les artisans du numérique sont-ils les nouveaux penseurs ? wwhat is our position in our society? La technologie est un outil politique
SpaceX Doit-on laisser l’Espace aux compagnies privées ? Réseaux sociaux Les réseaux doivent-ils être des médias d’information ? Net Neutrality Des acteurs privés peuvent-ils arbitrairement censurer des accès ? Sesame Social Credit Uen autorité centrale doit-elle décider pour vous ? Révolutions Révolution industrielle L’avènement du numérique L’ère des IA ? two big Revolutions have we already seen the last without recognized it? Révolution industrielle
Les ouvriers remplacés par des machines Les groupes sociaux qui changent radicalement Est-il éthiquement acceptable de supprimer le travail aux travailleurs ? people didn’t disappeared humanity improved it was at social cost Le numérique quotidien
Les choix humains sont remplacés par des algorithmes Les tâches laborieuses sont confiées aux machines Est-il éthiquement juste de considérer que le temps de certaines personnes a plus de valeur que celui d’autres ? Choices aren’t decisions when we let machine make an appointment, there’s a real people on the other side when we use a deliveroo service, we consider our time is most valuable than the time of the deliverer Vers quoi voulons-nous aller ? Served by the machines?
Bienvenue en 1870 !that talk is the same i could did in 1870 would we becomes the luddites of the digital age? have we more feedback to offer?
Le mythe de la Singularité Le Mythe de la SingularitéJean-Gabriel Ganascia when the machine will become more sentiente than human but it’s already the case the machine know us more than we know us for various tasks, like GPS we always built machines to improve humanity (microscop, etc) Bien ou Mal ?who can say it’s good or not? Construire vs. Concevoir have we got power enough? maybe we could impact more people we craft and ship code to million of people but except for large companies, have we got a real impact? in large companies, decisions aren’t made by developers! so aren’t we the workers of the digital age?
Éthique et Code we should be ethical which means we should think and seek for how the things must be done Enseigner à penser l’éthique dans le code ?
first question means we should teach to students to think ethically Negligence in the conduct of Internet-wide experiments is both irresponsible and unacceptable.
RFC1087
Code is Law
about 20 years ago Lawrence Lessig Étiquette, Code, Éthique
consider our work as influent do not do things because we can, but becouse we should be less scientists, and more sentient Les étudiants en Computer Science doivent :
Agir toujours avec intégrité et probité ; S’attacher à améliorer leurs compétences, et le savoir-faire et le prestige de leur profession ; Accepter les responsabilités de leurs actes ; Agir avec professionnalisme et bienveillance auprès de chaque individu ; Utiliser leurs compétences et leur savoir-faire particuliers pour œuvrer à l’amélioration de l’ensemble de l’humanité . Loi de Hume
[…] aucun raisonnement à l’indicatif ne peut engendrer une conclusion à l’impératif.
We can’t deduce normative statements (what ought to be) from positive statement (what is) Means morality, and ethic choices, can’t be infered from any is statement So ethics can’t come from logic, but from the relation between the Humans, and the algorithms Computer Science Ethics Computer Workers Ethics
En tant qu’artisans , nous sommes également les porteurs de l’éthique de nos sociétés, puisque nous traçons les contours du monde de demain.
Illustrations m4dz, CC BY-SA 4.0
Interleaf images Courtesy of Unsplash and Pexels contributors
Icons Layout icons are from Entypo+ Content icons are from FontAwesome Fonts Cover Title: Sinzano Titles: Argentoratum Body: Mohave Code: Fira Code Tools Powered by Reveal.js
Source code available at https://git.madslab.net/talks
{{}}