franceinfo : en quoi votre intelligence artificielle est-elle plus éthique que celle des autres ?

Thomas Solignac, co-fondateur de Golem.ai : Le machine learning, très utilisé aujourd’hui en IA, est une approche de type "boîte noire", car on ne peut pas regarder à l’intérieur et on ne comprend pas ce que fait l’IA. Or, quand on sait que l’IA commence à conduire des voitures ou à prendre des décisions médicales, il paraît nécessaire d’avoir une vraie transparence. Chez Golem.ai, nous développons, notamment, des outils de gestion automatique des e-mails, afin d’améliorer la relation client, et, contrairement à une approche purement statistique, nous faisons de "l’IA symbolique", qui est une forme de mathématisation du raisonnement. Cela donne une IA beaucoup plus claire.

N’est-ce pas la même chose que les "vieux" systèmes experts, qui n’étaient que des décisions successives programmées à l’avance ?

Cela y ressemble, mais nous nous y ajoutons des éléments venant des sciences humaines, tels que la linguistique, la psychologie ou encore la philosophie. Personnellement, j’ai fait des études d’informatique et de philosophie, et je me sers beaucoup de la philosophie pour nourrir mon approche de l’informatique.

Travailler sur ces technologies vous donne-t-il l’impression de tenir un pouvoir entre vos mains ?

J’ai le sentiment qu’il y a une nouvelle porte ouverte à l’échelle de notre histoire. Il y a des potentiels positifs énormes à l’IA, mais aussi des risques dont il faut se méfier. L’impact sur le monde du travail est gigantesque.

Source : France Info

L’article L’intelligence artificielle actuelle est une "boîte noire", selon la startup Golem.ai est apparu en premier sur GENERATE.

L’expérience de Renaud Allioux est d’autant plus intéressante qu’elle s’inscrit dans le champ controversé de l’IA pour la défense, ou « DefenseTech » si on emprunte au jargon. On pense très rapidement aux pratiques liberticides venues de Chine, les robots tueurs, aux armées de drones… Ici il n’en est rien. Cette start-up française développe depuis 2 ans une solution d’intelligence artificielle destinée à surveiller les sites stratégiques sur la base d’images satellite. L’objectif est de permettre aux clients un gain de temps dans la surveillance et l’analyse des situations géopolitiques par exemple.

Selon Renaud Allioux, pour être exploitée dans l’industrie à grande échelle, l’intelligence artificielle doit pouvoir garantir une forte fiabilité. Cette nécessité de performance est difficile à atteindre car de nombreux paramètres, souvent pointus, sont en jeu. Le rôle d’un produit qui repose sur de l’IA est de savoir intégrer tous ces paramètres, de les traiter via divers algorithmes poussés et entrainés sur une masse de données métier pertinentes, où chaque algorithme aura pu être testé sur des jeux de données réelles en garantissant un haut niveau de performance. De plus, il est impératif d’identifier les biais éventuels des algorithmes, générés par le code, les développeurs, les résultats souhaités ou les données d’entrée. Le résultat avancé ensuite par l’IA doit être suffisamment digne de confiance et pertinent pour avoir une utilité, une plus-value, pour les industries. Dans le domaine de la défense particulièrement, le droit à l’erreur se doit d’être minime tant chaque décision prise porte un enjeu qui se mesure en taux de tension géopolitique ou encore en vies humaines.

Earthcube est une start-up qui développe de l’IA à ce niveau de performance (moins de 10% d’erreurs en situation réelle, et non sur des données simulées ou de laboratoire), tandis que d’autres start-up exploitent le plus souvent des briques open source proposées par de grands acteurs du marché. Néanmoins, selon M. Allioux, ces briques sont exploitables pour des prototypes, mais comme ce sont des briques standards non entrainées sur des données métier, les résultats obtenus sont très peu fiables, sujets à des bugs et biais non maitrisés et difficilement décelables par les non experts du domaine. Une simulation qui montrerait sur un prototype de laboratoire un taux de performance de 90%, tomberait à 25% sur des jeux réels de données métier.

L’IA déployée à grande échelle semblerait donc être encore un concept relativement lointain.

L’IA s’avère alors être un outil exigeant qui peut apporter de nombreuses avancées sur différents domaines tels que la reconnaissance d’images, la voiture autonome, la reconnaissance faciale, la synthèse vocale… Toutefois pour être pertinente et performante, l’IA ne peut se révéler pleinement aujourd’hui que si des modules sont développés sur une problématique donnée. Les tentatives actuelles de concevoir des modules génériques semblent donc ne pas constituer des applications efficaces et porteuses d’une valeur ajoutée autre que le « buzz ». Au même titre que des sociétés se sont fondées sur des spécialités données et que l’on compte bien peu d’entreprises bonnes à tout faire, l’IA semble confrontée aux mêmes limites. Même si l’on imagine une multiplication des IA spécialisées, il faudrait parvenir à les faire travailler ensuite entre elles pour obtenir des comportements plus généraux cohérents. L’être humain occupe donc une place importante dans les choix qui sont et seront opérés, fortement conditionnés à des considérations éthiques pour éviter les biais, les boites noires non maitrisées et les dangers du déterminisme. Qui décidera en effet que tel ou tel résultat issu d’une IA ou d’une combinaison d’IA est pertinent, cohérent ? Sur quels critères se baser sachant que chacun peut porter un point de vue différent sur diverses situations ? Il n’y a qu’à considérer les nombreuses polémiques qui empoisonnent notre société pour se rendre compte de la complexité du sujet, mais aussi de ses dangers.

L’Europe peut-elle peser sur les problématiques de développement des Intelligences Artificielles?

A n’en pas douter, il y a un long travail  d‘éducation à réaliser sur ces problématiques et de sensibilisation aux dangers éthiques. L’Europe aurait sans doute beaucoup à gagner à être, comme elle l’a montré avec la protection des données personnelles (RGPD), à la pointe sur la réglementation de ces avancées technologiques. Cette réglementation se doit d’être réaliste, limitant certes les excès et dérives liberticides (ou pire), mais trouvant l’équilibre pour ne pas verrouiller trop fortement les évolutions souhaitables pour le bien commun.

De plus, l’Europe est l’un des principaux pourvoyeurs d’experts en développement d’IA dans le monde. Si beaucoup passent sous pavillon étranger pour faire carrière, il est tout de même rassurant d’imaginer que leurs influences restent imprégnées des valeurs morales généralement admises en Europe.

Pour maintenir un rôle clé dans cette nouvelle ère qui se profile, la question des financements des programmes ou sociétés développant de l’IA performante est aussi un enjeu essentiel. En effet, sans les financements utiles à leur déploiement, il sera difficile de peser sur l’échiquier face à des acteurs américains ou asiatiques et encore moins d’imposer une forme de réglementation.

Là où nous pourrions penser que les start-up développant de l’intelligence artificielle ne sont que des usines R&D pour servir les intérêts de plus grands acteurs, Earthcube démontre de façon assez exemplaire qu’il est possible de développer une intelligence artificielle spécialisée et performante en 2 ans et d’intéresser des acteurs à la pointe au point de générer un chiffre d’affaires et d’avoir validé son business model. La start-up compte aujourd’hui une quarantaine de salariés et devrait passer à 100 en 2020 avec pour projet un déploiement international. Pour financer sa croissance elle a levé 7 millions d’euros, et envisage une nouvelle levée à court ou moyen terme. Son revenu récurrent mensuel devrait être multiplié par 8 ou 10 d’ici la fin de l’année 2019, par rapport à 2018.

Source : Forbes

L’article Peut-on se fier à l’intelligence artificielle ? est apparu en premier sur GENERATE.

« Reconnaître avec 85 % de fiabilité des chats sur de belles images bien contrastées, c'est très facile, mais atteindre les 90 à 95 % sur des données complexes voire de qualité médiocre, c'est deux ans de R&D » avertit Renaud Allioux, CTO et co-fondateur de la start-up Earthcube. Cette société développe des outils d'analyse d'images pour des besoins critiques, notamment dans la défense (analyse d'images satellites...) mais aussi dans l'industrie (analyse de photographies de pipelines...). Ces secteurs ne peuvent supporter des taux d'erreur élevés.

Mais que change le « besoin critique » lorsque l'on fait de l'analyse d'image par IA ? Pour Renaud Allioux, « il y a trois impacts essentiels ». Le premier est une nécessité de performances élevées, impliquant l'impossibilité d'utiliser des solutions traditionnelles orientées vers d'autres usages. Plus contraignant encore est l'impératif de fiabilité. « La fiabilité est la grande difficulté lorsque l'on passe de l'expérimentation à l'usage réel et qui explique beaucoup des abandons de projets en matière d'IA » observe Renaud Allioux. Pour cela, l'entreprise doit totalement maîtriser le code de sa plate-forme et ne peut donc pas se contenter d'assembler des briques de frameworks. Renaud Allioux relève : « les bugs peuvent être dus soit à du code de framework (comme Keras et Tensorflow), soit à l'intégration des modules. Par exemple, nous avons eu jadis un soucis de différence de scoring entre l'entraînement et la prédiction. »

Source : CIO Online

L’article Fiabilité, performance et autonomie des utilisateurs : trois défis majeurs pour l'IA selon Earthcube est apparu en premier sur GENERATE.

Source : DefTech Magazine

L’article Contrôler la fiabilité des systèmes d'intelligence artificielle est apparu en premier sur GENERATE.