Discussion :

[Stéphane le calme]

Ingénieur, où est passée ta conscience ?
Quel est le degré de responsabilité des ingénieurs derrière les outils d'espionnage gouvernementaux ?

Depuis quelques mois déjà, l'actualité IT parle de la NSA et de ses programmes d'écoutes, suivant le rythme des révélations d'Edward Snowden. Les réactions se multiplient pour pointer un doigt accusateur vers la « méchante » agence américaine de renseignements qui n'hésite pas à bafouer la moindre liberté civile au nom de son combat contre le terrorisme. Mais qui s'est déjà intéressé aux ingénieurs derrière les lignes de codes ? Les algorithmes qu'ils ont développés pour extraire des informations spécifiques dans une large quantité de données supposée impénétrable démontre un haut niveau de connaissance technologique. Savaient-ils à quoi leurs algorithmes allaient servir ? Si non, auraient-ils dû s'inquiéter d'une potentielle mauvaise utilisation ? Quoiqu'il en soit, sont-ils en partie aussi responsables que la NSA ou peut-on considérer qu'ils « faisaient juste leur travail » ?

Bien sûr ces questions ne sauraient simplement s'arrêter à ce corps de métier. Il serait légitime par exemple de se demander si les connaissances d'experts dans un domaine en particulier venaient à être utilisées dans un domaine moralement répréhensible, devraient-ils eux aussi être mis en cause ou devraient-ils juste être considérés comme simples exécutants ?

Dans le monde tel que nous le connaissons aujourd'hui, la société associe des valeurs morales à certains métiers à l'instar de la médecine où les professionnels sont censés aider les gens ou encore la justice. Mais qu'en est-il de la technologie ?

Au 19e siècle, lors de l'avènement de l'ingénierie moderne, la société percevait la technologie comme nécessaire à son évolution. Les ingénieurs étaient alors responsables de la gestion des « grandes sources d'énergie dans la nature afin que l'homme puisse en disposer à sa convenance » expliquait le « UK Institution of Engineers » publié en 1828. De plusieurs façons, les ingénieurs ont contribué à l'amélioration de la vie et à la construction du monde moderne tel que nous le connaissons. Pourtant, aujourd'hui, les ingénieurs sont plus préoccupés par l'aspect technique et gestion du métier (conception d'algorithmes, construction de machines, etc.) que par le contexte de déploiement du fruit de leurs efforts et les éventuelles conséquences.

John Rogers, ingénieur de matériaux (qui s'occupe de la synthèse de matériaux) diplômé de l'Université de l'Illinois a inventé un appareil électronique révolutionnaire comme l'a reporté le journal Science ; en 2011 lui et ses collègues ont créé un circuit intégré en silicone avec les mêmes propriétés mécaniques que la peau. Comme la peau, ce circuit s'étire et reprend sa position initiale lorsqu'on tire dessus et qu'on le lâche. Il résiste à l'eau et peut récolter des ondes radio pour mesurer la température de la peau, le taux d'hydratation et même les signaux électriques du cerveau et du cœur. Le New Yorker magazine lui a alors demandé si cette invention était pour l'avancement de l'humanité ou si elle nous transformerait en robots sans âmes. Il a simplement répondu « les gens devraient y penser. Mais à la base je suis juste un ingénieur ».

Source : ICE, New Yorker magazine

Et vous ?

Qu'en pensez-vous ?

[Uranne-jimmy]

Concernant le rôle des ingénieurs dans l'affaire du NSA : c'est l'amérique. Les américains sont zélé, a fond sur leur pays, patriote, si tu leur prétend que c'est pour leur bien, ils vont forcément accepter. On parle d'ingénieur, ils ont un esprit critique mais un sens du devoir suffisamment grand pour opiner au désir de l'état, surtout si le salaire va avec, c'est un boulot après tout, ils ne sont pas tant que ça responsable de tout ce qui se passe.

Concernant le parallèle avec les valeurs moral de la médecine : la médecine évolue pour aider les gens, maintenir, prolonger, améliorer la vie, si pour ça on doit aller trop loin, on y va aussi. Il suffit de voir ce qu'il s'est passé avec les antibiotiques avant qu'on se rendent compte que ça ne faisait que renforcer la résistances des maladies face à ses médicaments "miracle".


Enfin sur ce qu'est un ingénieur maintenant : on est dans un monde ou pour évoluer il faut que les gens se spécialisent de plus en plus, on ne peut pas faire avancer la recherche sans être un parfait connaisseur de sa matière et on ne peut pas savoir tout sur tout, manque de temps comme de neurone, donc oui, maintenant les ingénieurs inventent, fait avancer la recherche, le but pratique se dévoile par d'autres personnes, plus qualifiées.

[clairetj]

On peut faire le parallèle avec le monde de l'armement

Pour l'instant (du moins je n'en est jamais entendu parler dans les média), on ne vient pas remettre en cause le sens moral du technicien/ingénieur qui entretien/crée les machines qui servent à la fabrication d'armes. Pourtant le gars s'est ce que fait une arme donc son sens moral devrait crié d'arrêter et de quitter son travail. Mais si actuellement c'est le seul travail qu'il peut avoir, il va tout plaqué, et espérer retrouver un travail avant d'arriver dans la rue ??? J'en doute. C'est pas une question de moral, sans doute que les gens qui ont élaboré les programmes se doutaient de ce qui aller ce passer et qu'ils auraient préféré ne pas être "mêlé" à ça mais si c'était le seul travail possible à ce moment là ???

[Traroth2]

Des ingénieurs ont créé la mitrailleuse et le char d'assaut, donc la conscience...

[Lyche]

Sont trop parano les Américains, ça les pousse à faire des choses un peu extrèmes en espérant que ça les sauves d'une terreur collective qu'ils se sont eux même implantés depuis plusieurs années maintenant...

[psychadelic]

Tout dépends des individus, qu'ils soient ingénieurs ou non.

L'éthique est l'affaire de chacun.

Le simple "l'ingé" qui travaille sur un programme de paye à accès a pas mal d'infos privées, et peut "f**tre une sacrée m***e" dans une entreprise en laissant fuité le salaire du patron, ou tout simplement harceler jusqu'à chez elle la petite secrétaire fragile qui lui à tapé dans l'œil..

Celui qui réalise une commande de missile n'est pas forcément un militariste convaincu, mais rien ne l'oblige à faire ce job.

Pour Snowden, c'est un peu plus compliqué, il est un peu dans le cas du militaire à qui on demande de participer à un massacre; cette clause de conscience ne semble pas avoir atteins les lobes limbique des généraux...

[Invité]

On peut faire le parallèle avec le monde de l'armement

Pour l'instant (du moins je n'en est jamais entendu parler dans les média), on ne vient pas remettre en cause le sens moral du technicien/ingénieur qui entretien/crée les machines qui servent à la fabrication d'armes.

En fait les médias font subtilement de la promo du système militaro-industriel par exemple en interviouvant des mathématiciens.
Roger Godement http://godement.eu un mathématicien français a beaucoup combattu certain de ses collègues à ce sujet lire la fin de "analyse mathématique tome 2" http://books.google.fr/books/about/A...d=CQW2RyJ8UsEC ( téléchargeable : http://godement.eu/site/download/21/ ) mais aussi un point de vu opposé http://www.amazon.fr/Math%C3%A9matic.../dp/2738104622

[r0d]

Qu'en pensez-vous ?

Cette question est vieille comme le néo-cortex. Pour ma part, je fait mienne la célèbre citation de Rabelais: "science sans conscience n'est que ruine de l'âme".

Je ne connais pas la situation des ingénieurs de 1828, mais aujourd'hui, force est de constater que l'ingénieur n'a plus qu'un rôle technique. Parfois un peu comptable (souvent il faut prendre en compte les coûts des solutions qu'on propose), mais c'est tout. Et ce confinement n'est pas le fait des ingénieurs eux-même. Que l'on soit ingénieur ou pas, la majorité d'entre nous aimeraient pouvoir participer aux décisions de leurs entreprises, en tout cas pour ce qui est des questions morales et/ou éthiques.

Mais ce problème ne se cantonne pas qu'aux ingénieurs. J'ai le sentiment qu'aujourd'hui, les entreprises ne peuvent pas se permettre de prendre en compte des considérations autres que celles qui sont d'ordre financier. Même en haut de la pyramide: imaginez le PDG de Total qui s'opposerait à l'exploitation des ressources fossiles (gaz et pétrole essentiellement) de l'Arctique*. Non seulement il serait immédiatement expulsé, car une telle position irait clairement à l'encontre des intérêts des actionnaires. Mais en plus, si Total ne le fait pas, ses concurrents ne se priveront pas de le faire.

Donc, encore une fois, il s'agit d'un problème politique.

My 2 cts.

* A cause de la fonte des glaciers de l'Arctique, de nouvelles opportunités d'exploitations, en minerais et hydrocarbures, se présentent. La ruée a déjà commencé.

[Kikuts]

Comme dit plus haut, les fabricants d'armes n'ont rien à "se reprocher".

C'est comme les explosifs ! Tout dépend de l'utilisation qu'on fait d'un algo, les mains entres lesquelles il se trouve :

- Les explosifs peuvent permettre de creuser des tunnels, des mines (pas au sens antipersonnel), préparer le terrain pour un barrage etc etc etc. Entre les mauvaises mains, ça servira à tuer.

- Les armes (à feu, bombe nucléaire etc) peuvent être aussi bien utilisées en tant qu'arme de dissuasion : défense que l'inverse.

C'est la même chose pour le code : si c'est algo servaient à écouter les dirigeants douteux, s'assurer que nos politiciens ne virent pas notre argent sur un compte en suisse, à traquer des malfrats reconnus, retrouver des gens disparus / kidnappé,que tout ce service était 100% transparent ?

On dirait peut être que c'est la meilleur invention du monde. Mais on est pas dans le monde des bisounours, donc on s'en sert à des fins bcp moins nobles

[LSMetag]

C'est une sacré question.

Cela dépend à la fois de l'ingénieur mais également de son patron.

- L'ingénieur peut travailler en connaissance de cause. C'est son gagne pain, il n'est pas responsable de l'utilisation de ses créations.

- Le patron peut mentir à l'ingénieur et utiliser ses créations pour tout autre chose. Si l'ingénieur a une conscience, il peut créer des gardes fous ou se renseigner sur sa boîte. Si on lui demande de retirer ses gardes fous, il pourra se poser les bonnes questions.

- L'ingénieur peut démissionner ou refuser un poste. Ce fut mon cas : je me suis "saboté" quand ma SSII m'a proposé aux laboratoires Servier. Mediator + expériences sur des chiens, très peu pour moi.

[Miistik]

Une petite pierre à l'édifice.

Le parallèle métier/"ici ce que vous voulez" (argent/morale/éthique/valeurs) est une notion difficile à aborder.

L'inventeur de la bombe nucléaire ne souhaitait pas forcément qu'on la teste en live au Japon.

Souvent, les produits de la recherche aussi poussée soit-elle sont utilisés à des fins non prévues initialement. Cela fait partie de l'évolution.

Après le contexte ne permet pas forcément ces considérations, cf économie de marché et concurrence internationale.

Néanmoins, chacun du haut de son rang hiérarchique et du poids de sa conscience, fait ses choix.
Pour lire régulièrement d'autres parties de ce forum, certains ont refusé des postes aux salaires mirobolants par convinctions/éthique/valeurs.

Be free and take responsability for your behaviour !

[Grimly]

Doit-on blâmer les recherches sur l'atome ou celui qui a demandé à lancer sa bombe atomique ?

[zaventem]

Cette question est vieille comme le néo-cortex. Pour ma part, je fait mienne la célèbre citation de Rabelais: "science sans conscience n'est que ruine de l'âme".

Mon dieu, Rod que t'arrive-t-il? Te voilà occupé à promouvoir le catholicisme?

Voici la citation, complète et replacé dans son contexte

[...]En somme, que je voie en toi un abîme de science car, maintenant que tu deviens homme et te fais grand, il te faudra quitter la tranquillité et le repos de l’étude pour apprendre la chevalerie et les armes afin de défendre ma maison, et de secourir nos amis dans toutes leurs difficultés causées par les assauts des malfaiteurs. Et je veux que, bientôt, tu mesures tes progrès; cela, tu ne pourras pas mieux le paire qu’en soutenant des discussions publiques, sur tous les sujets, envers et contre tous, et qu’en fréquentant les gens lettrés tant à Paris qu’ailleurs.
Mais – parce que, selon le sage Salomon, "Sagesse n’entre pas en âme malveillante et que Science sans Conscience n’est que ruine de l’âme"- tu dois servir, aimer et craindre Dieu, et mettre en lui toutes tes pensées et tout ton espoir; et par une foi nourrie de charité, tu dois être uni à lui, en sorte que tu n’en sois jamais séparé par le péché.
Méfie-toi des abus du monde; ne prends pas à cour les futilités, car cette vie est transitoire, mais la parole de Dieu demeure éternellement. Sois serviable pour tes prochains, et aime-les comme toi-même. Révère tes précepteurs. Fuis la compagnie de ceux à qui tu ne veux pas ressembler, et ne reçois pas en vain les grâces que Dieu t’a données. Et, quand tu t’apercevras que tu as acquis tout le savoir humain, reviens vers moi, afin que je te voie et que je te donne ma bénédiction avant de mourir.[...]

[grunk]

Même en ayant conscience que ce que tu est entrain de réaliser n'est ps forcément très bien y'a plusieurs point à prendre en compte je pense :

- Si comme une bonne partie des gens tu as une maison , des gosses et une femme , tu peux peut être pas te permettre de claquer la porte , juste parce que le projet te plait pas

- Si tu travail pour la NSA y'a de forte chance que tu puisse pas te barrer comme ça , surtout si tu travail sur des domaine sensible. Certains l'ont fait (assange, snowden) on voit comment il vivent maintenant.

C'est une vision très égoïste des choses mais une fois dans la merde les gens pour qui tu t'es sacrifié t'oublie généralement assez vite

[fcharton2]

Snowden ne me parait pas être le meilleur exemple.

Le brave garçon a commencé par s'engager dans l'armée, les forces spéciales, avant d'entrer à la NSA, puis de travailler pour la CIA, puis dans le privé (mais toujours pour la NSA), avec toujours de bons salaires à la clef.

Il a effectivement fini par avoir des remords, mais il a fallu 10 ans. Sa conscience était apparemment un peu dure d'oreille.

Bref, comme modèle d'ingénieur écoutant sa conscience, on a vu mieux, non?

Francois

[Tellen]

- Si tu travail pour la NSA y'a de forte chance que tu puisse pas te barrer comme ça , surtout si tu travail sur des domaine sensible. Certains l'ont fait (assange, snowden) on voit comment il vivent maintenant.

Assange n'a jamais travaillé pour la NSA et Snowden n'a pas eu des problemes car il voulait quitter la NSA !

[CHbox]

Personnellement je rapprocherais cette question de l'expérience Milgram, je ne m'avancerais pas à juger un ingénieur travaillant sur un tel projet, au sein d'une équipe, et sous les ordres d'autres gens eux-même sous les ordres d'autres gens, qu'ils aient eu conscience ou non de tout les tenant et aboutissant de leur travail, ce n'est pour eux qu'un métier, la plupart auront certainement des remords mais sur le moment il doit être difficile de prendre du recul.

[Blackknight]

Moi, j'ai ma conscience pour moi car je refuse catégoriquement de livrer des logiciels pour la gestion des stocks de pièces permettant de fabriquer des machettes
En tout cas, c'est une question très difficile et qui, surtout, est propre à chacun.
Du coup, je trouve presque choquant le titre de la news

[Saverok]

Je pense que la très grande majorité des ingénieurs n'avait aucune idée du but du programme sur lequel ils travaillaient.
Afin de protéger au mieux les secrets, la Défense fragmente au maximum les projets.
A tel point que l'ingénieur n'a aucune idée du but final du petit bout de programme qu'il développe (ça peut très bien servir aux radars ou au guidage d'un missile comme à la localisation des toilettes sur le porte avion).

Seuls quelques hauts placés effectuent l'assemblage du puzzle pour l'utilisation finale.

Ensuite, jamais à aucun moment au cours de mon cursus, il n'a été question, même vaguement, d'un cours de moral ou d'éthique de l'ingénieur.
Les médecins et les avocats prêtent serments, pas les ingénieurs.
La conscience est certes l'affaire de chacun, mais la société n'accorde aucune valeur ou existence à l'éthique de l'ingénieur.

[Blackknight]

Je pense que la très grande majorité des ingénieurs n'avait aucune idée du but du programme sur lequel ils travaillaient.
Afin de protéger au mieux les secrets, la Défense fragmente au maximum les projets.
A tel point que l'ingénieur n'a aucune idée du but final du petit bout de programme qu'il développe (ça peut très bien servir aux radars ou au guidage d'un missile comme à la localisation des toilettes sur le porte avion).

Mouais, enfin, généralement, tu sais quand même sur quel projet tu bosses et un algo de géoloc ne s'écrit pas de la même façon si on l'embarque dans un missile ou s'il doit servir dans une tablette pour trouver les chiottes dans le porte-avion.
Celui qui t'a dit ça cherche à se cacher derrière son petit doigt ou respecte simplement les règles de confidentialité liées à son projet