Le lundi ^(Monday)22 mai^{(May 22)} 2023 , un compte Twitter vérifié appelé « Bloomberg Feed » a partagé un tweet affirmant qu'il y avait eu une explosion au Pentagone^{(explosion at the Pentagon)} , accompagné d'une image. Si vous vous demandez ce que cela a à voir avec l'intelligence artificielle (IA), sachez que l'image a été générée par l'IA, le tweet étant rapidement devenu viral et déclenchant une brève baisse du marché boursier. Les choses auraient pu être bien pires – un rappel brutal des dangers de l’intelligence artificielle.

Dangers de l’intelligence artificielle

Ce ne sont pas seulement les fausses nouvelles dont nous devons nous inquiéter. Il existe de nombreux risques immédiats ou potentiels associés à l’IA, depuis ceux concernant la confidentialité et la sécurité jusqu’aux problèmes de partialité et de droits d’auteur. Nous examinerons certains de ces dangers liés à l’intelligence artificielle, verrons ce qui est fait pour les atténuer aujourd’hui et à l’avenir, et nous demanderons si les risques de l’IA l’emportent sur les avantages.

Fausses nouvelles

À l’époque où les deepfakes sont apparus pour la première fois, on craignait qu’ils puissent être utilisés à des fins malveillantes. La même chose pourrait être dite pour la nouvelle vague de générateurs d'images IA^{(AI image generators)} , comme DALL-E 2 , Midjourney ou DreamStudio . Le 28 mars^{(March 28)} 2023, de fausses images générées par l'IA du pape François^{(AI-generated images of Pope Francis)} portant une doudoune Balenciaga blanche et profitant de plusieurs aventures, notamment faire du skateboard et jouer au poker, sont devenues virales. ^(Balenciaga)À moins d’étudier les images de près, il était difficile de distinguer ces images de la réalité.

Si l’exemple du pape était sans aucun doute un peu amusant, l’image (et le tweet qui l’accompagne) du Pentagone^(Pentagon) l’était tout sauf. Les fausses^(Fake) images générées par l’IA ont le pouvoir de nuire à la réputation, de mettre fin à des mariages ou à des carrières, de créer des troubles politiques et même de déclencher des guerres si elles sont utilisées par les mauvaises personnes. En bref, ces images générées par l’IA peuvent être extrêmement dangereuses si elles sont utilisées à mauvais escient.

Avec les générateurs d’images IA désormais disponibles gratuitement pour tous et Photoshop ajoutant un générateur d’images IA^{(Photoshop adding an AI image generator )} à son logiciel populaire, la possibilité de manipuler des images et de créer de fausses nouvelles est plus grande que jamais.

Confidentialité, sécurité et piratage

La confidentialité et la sécurité sont également des préoccupations majeures en ce qui concerne les risques liés à l'IA, un certain nombre de pays interdisant déjà ChatGPT d'OpenAI . L'Italie^(Italy) a interdit le modèle pour des raisons de confidentialité, estimant qu'il n'est pas conforme au Règlement général européen sur la protection des données^{(General Data Protection Regulation)} ( RGPD^(GDPR) ), tandis que les gouvernements de la Chine^(China) , de la Corée du Nord^{(North Korea)} et de la Russie l'ont interdit par crainte qu'il ne propage de fausses informations.

Alors pourquoi sommes-nous si préoccupés par la confidentialité lorsqu’il s’agit d’IA ? Les applications et systèmes d’IA^{(AI apps)} collectent de grandes quantités de données afin d’apprendre et de faire des prédictions. Mais comment ces données sont-elles stockées et traitées ? Il existe un risque réel de violation de données, de piratage et d'informations tombant entre de mauvaises mains.

Ce ne sont pas seulement nos données personnelles qui sont menacées. Le piratage de l’IA représente un risque réel – cela ne s’est pas encore produit, mais si des personnes malveillantes pouvaient pirater les systèmes d’IA, cela pourrait avoir de graves conséquences. Par exemple, les pirates pourraient contrôler des véhicules sans conducteur, pirater les systèmes de sécurité de l’IA pour accéder à des emplacements hautement sécurisés et même pirater des systèmes d’armes dotés de la sécurité de l’IA.

Les experts de la Defense Advanced Research Projects Agency ( DARPA ) du ^(DARPA)ministère américain^{(US Department)} de la Défense reconnaissent ces risques et travaillent déjà sur le projet Garantir la robustesse de l'IA contre la tromperie^{(Guaranteeing AI Robustness Against Deception)} ( GARD ) de ^(GARD)la DARPA^(DARPA) , abordant le problème de fond en comble. L'objectif du projet est de garantir que la résistance au piratage et à la falsification soit intégrée aux algorithmes et à l'IA.

Violation de copyright

Un autre danger de l’IA est la violation du droit d’auteur. Cela ne semble peut-être pas aussi grave que certains autres dangers que nous avons mentionnés, mais le développement de modèles d'IA comme GPT-4 expose tout le monde à un risque accru d'infraction.

Chaque fois que vous demandez à ChatGPT de créer quelque chose pour vous – qu'il s'agisse d'un article de blog sur les voyages ou d'un nouveau nom pour votre entreprise – vous lui fournissez des informations qu'il utilise ensuite pour répondre à de futures requêtes. Les informations qu'il vous renvoie pourraient enfreindre les droits d'auteur de quelqu'un d'autre, c'est pourquoi il est si important d'utiliser un détecteur de plagiat et de modifier tout contenu créé par l'IA avant de le publier.

Biais sociétal et de données

L’IA n’est pas humaine, elle ne peut donc pas être biaisée, n’est-ce pas ? Faux. Les personnes et les données sont utilisées pour former des modèles d'IA et des chatbots^(chatbots) , ce qui signifie que des données ou des personnalités biaisées entraîneront une IA biaisée. Il existe deux types de biais dans l’IA : les biais sociétaux et les biais liés aux données.

Avec de nombreux préjugés présents dans la société de tous les jours, que se passe-t-il lorsque ces préjugés deviennent partie intégrante de l’IA ? Les programmeurs responsables de la formation du modèle pourraient avoir des attentes biaisées, qui se retrouveraient ensuite dans les systèmes d’IA.

Ou encore, les données utilisées pour former et développer une IA pourraient être incorrectes, biaisées ou collectées de mauvaise foi. Cela conduit à des biais dans les données, qui peuvent être aussi dangereux que les préjugés sociétaux. Par exemple, si un système de reconnaissance faciale est formé principalement à partir des visages de personnes blanches, il risque d'avoir du mal à reconnaître ceux issus de groupes minoritaires, perpétuant ainsi l'oppression.

Les robots prennent nos emplois

Le développement de chatbots tels que ChatGPT et Google Bard a ouvert une toute nouvelle inquiétude autour de l’IA : le risque que les robots^{(robots )} prennent nos emplois. Nous voyons déjà les rédacteurs du secteur technologique être remplacés par l'IA, les développeurs de logiciels craignent de perdre leur emploi au profit des robots et les entreprises utilisent ChatGPT pour créer du contenu de blog et de médias sociaux plutôt que d'embaucher des rédacteurs humains.

Selon le rapport 2020 du Forum économique mondial sur l'avenir de l'emploi^{(World Economic Forum’s The Future of Jobs Report 2020)} , l'IA devrait remplacer 85 millions d'emplois dans le monde d'ici 2025. Même si l'IA ne remplace pas les écrivains, elle est déjà utilisée comme un outil par beaucoup. Ceux qui occupent des emplois qui risquent d'être remplacés par l'IA devront peut-être s'adapter pour survivre. Par exemple, les écrivains peuvent devenir des ingénieurs en IA, ce qui leur permettra de travailler avec des outils comme ChatGPT pour la création de contenu plutôt^(ChatGPT) que d'être remplacés par ces modèles.

Risques potentiels futurs liés à l’IA

Ce sont tous des risques immédiats ou imminents, mais qu’en est-il de certains des dangers de l’IA les moins probables mais toujours possibles que nous pourrions voir à l’avenir ? Il s’agit notamment de choses comme l’IA programmée pour nuire aux humains, par exemple des armes autonomes entraînées pour tuer pendant une guerre.

Il existe ensuite le risque que l’IA se concentre uniquement sur son objectif programmé, développant des comportements destructeurs alors qu’elle tente d’atteindre cet objectif à tout prix, même lorsque les humains tentent d’empêcher que cela se produise.

Skynet nous a appris ce qui se passe lorsqu'une IA devient sensible. Cependant, même si l'ingénieur de Google , ^(Google)Blake Lemoine, a peut-être tenté de convaincre tout le monde que LaMDA, le générateur de chatbot artificiellement intelligent de Google, était sensible^{(LaMDA, Google’s artificially intelligent chatbot generator was sentient)} en juin 2022^{(June 2022)} , il n'y a heureusement aucune preuve à ce jour suggérant que c'est vrai.

Les défis de la réglementation de l’IA

Le lundi 15 mai 2020, Sam Altman, PDG d'OpenAI, a assisté à la première audience du Congrès sur l'intelligence artificielle^{(OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence)} , avertissant : « Si cette technologie tourne mal, elle peut tourner très mal. » L' OpenAI CO a clairement indiqué qu'il était favorable à la réglementation et a présenté bon nombre de ses propres idées à l'audience. Le problème est que l’IA évolue à une telle vitesse qu’il est difficile de savoir par où commencer en matière de réglementation.

Le Congrès^(Congress) veut éviter de commettre les mêmes erreurs commises au début de l'ère des médias sociaux, et une équipe d'experts aux côtés du chef de la majorité au Sénat, Chuck Schumer,^{(Senate Majority Leader Chuck Schumer)} travaille déjà sur des réglementations qui obligeraient les entreprises à révéler quelles sources de données elles ont utilisées pour former leurs modèles et qui. les a formés. Il faudra peut-être un certain temps avant que la manière exacte dont l’IA sera réglementée ne devienne claire, et il ne fait aucun doute qu’il y aura des réactions négatives de la part des entreprises d’IA.

La menace^(Threat) d’une intelligence générale artificielle^{(Artificial General Intelligence)}

Il existe également le risque de création d'une intelligence générale artificielle ( AGI ) qui pourrait accomplir toutes les tâches qu'un être humain (ou un animal) pourrait accomplir. Souvent^(Often) mentionné dans les films de science-fiction, nous sommes probablement encore à plusieurs décennies d'une telle création, mais si et quand nous créons une AGI , cela pourrait constituer une menace pour l'humanité.

De nombreuses personnalités publiques soutiennent déjà la conviction selon laquelle l'IA constitue une menace existentielle pour les humains, notamment Stephen Hawking , Bill Gates et même l'ancien PDG de Google, Eric Schmidt^{(Google CEO Eric Schmidt)} , qui a déclaré : « L'intelligence artificielle pourrait présenter des risques existentiels et les gouvernements doivent savoir comment s'en assurer. la technologie n’est pas utilisée à mauvais escient par des personnes malveillantes.

Alors, l’intelligence artificielle est-elle dangereuse et ses risques l’emportent-ils sur ses avantages ? Il n'y a pas encore d'heure à ce sujet, mais nous voyons déjà des preuves de certains des risques qui nous entourent à l'heure actuelle. D’autres dangers sont moins susceptibles de se concrétiser de sitôt, voire pas du tout. Une chose est cependant claire : les dangers de l’IA ne doivent pas être sous-estimés. Il est de la plus haute importance que nous veillions à ce que l’IA soit correctement réglementée dès le départ, afin de minimiser et, espérons-le, d’atténuer tout risque futur.

Is Artificial Intelligence (AI) Dangerous?

On Monday, May 22, 2023, a verifiеd Twitter account called “Bloomberg Feed” shared a tweet claiming there had been an explosion at the Pentagon, accompanied by an image. If you’re wondering what this has to do with artificial intelligence (AI), the image was an AI-generated one, with the tweet quickly going viral and sparking a brief stock market dip. Things could have been much worse — a stark reminder of the dangers of artificial intelligence.

Artificial Intelligence Dangers

It’s not just fake news we need to worry about. There are many immediate or potential risks associated with AI, from those concerning privacy and security to bias and copyright issues. We’ll dive into some of these artificial intelligence dangers, see what is being done to mitigate them now and in the future, and ask whether the risks of AI outweigh the benefits.

Fake News

Back when deepfakes first landed, concerns arose that they could be used with ill intent. The same could be said for the new wave of AI image generators, like DALL-E 2, Midjourney, or DreamStudio. On March 28, 2023, fake AI-generated images of Pope Francis in a white Balenciaga puffer jacket, and enjoying several adventures, including skateboarding and playing poker went viral. Unless you studied the images closely, it was hard to distinguish these images from the real thing.

While the example with the pope was undoubtedly a bit of fun, the image (and accompanying tweet) about the Pentagon was anything but. Fake images generated by AI have the power to damage reputations, end marriages or careers, create political unrest, and even start wars if wielded by the wrong people — in short, these AI-generated images have the potential to be hugely dangerous if misused.

With AI image generators now freely available for anybody to use, and Photoshop adding an AI image generator to its popular software, the opportunity to manipulate images and create fake news is greater than ever.

Privacy, Security, and Hacking

Privacy and security are also huge concerns when it comes to the risks of AI, with a number of countries already banning OpenAI’s ChatGPT. Italy has banned the model due to privacy concerns, believing it does not comply with the European General Data Protection Regulation (GDPR), while China, North Korea, and Russia’s governments banned it due to fears it would spread misinformation.

So why are we so concerned about privacy when it comes to AI? AI apps and systems gather large amounts of data in order to learn and make predictions. But how is this data stored and processed? There’s a real risk of data breaches, hacking, and information falling into the wrong hands.

It’s not just our personal data that’s at risk, either. AI hacking is a genuine risk — it hasn’t happened yet, but if those with malicious intent could hack into AI systems, this could have serious consequences. For example, hackers could control driverless vehicles, hack AI security systems to gain entry to highly secure locations, and even hack weapons systems with AI security.

Experts at the US Department of Defense’s Defense Advanced Research Projects Agency (DARPA) recognize these risks and are already working on the DARPA’s Guaranteeing AI Robustness Against Deception (GARD) project, tackling the problem from the ground up. The project’s goal is to ensure that resistance to hacking and tampering is built into algorithms and AI.

Copyright Infringement

Another of the dangers of AI is copyright infringement. This may not sound as serious as some other dangers we’ve mentioned, but the development of AI models like GPT-4 puts everyone at increased risk of infringement.

Every time you ask ChatGPT to create something for you — whether that be a blog post on travel or a new name for your business — you’re feeding it information which it then uses to answer future queries. The information it feeds back to you could be infringing somebody else’s copyright, which is why it’s so important to use a plagiarism detector and edit any content created by AI before publishing it.

Societal and Data Bias

AI isn’t human, so it can’t be biased, right? Wrong. People and data are used to train AI models and chatbots, which means biased data or personalities will result in a biased AI. There are two types of bias in AI: societal bias and data bias.

With many biases present in everyday society, what happens when these biases become part of AI? The programmers responsible for training the model could have expectations that are biased, which then make their way into AI systems.

Or data used to train and develop an AI could be incorrect, biased, or collected in bad faith. This leads to data bias, which can be as dangerous as societal bias. For example, if a system for facial recognition is trained using mainly white people’s faces, it may struggle to recognize those from minority groups, perpetuating oppression.

Robots Taking Our Jobs

The development of chatbots such as ChatGPT and Google Bard has opened up a whole new worry surrounding AI: The risk that robots will take our jobs. We’re already seeing writers in the tech industry being replaced by AI, software developers worried they’ll lose their jobs to bots, and companies using ChatGPT to create blog content and social media content rather than hiring human writers.

According to the World Economic Forum’s The Future of Jobs Report 2020, AI is expected to replace 85 million jobs worldwide by 2025. Even if AI doesn’t replace writers, it’s already being used as a tool by many. Those in jobs at risk of being replaced by AI may need to adapt to survive — for example, writers may become AI prompt engineers, enabling them to work with tools like ChatGPT for content creation rather than being replaced by these models.

Future Potential AI Risks

These are all immediate or looming risks, but what about some of the less likely but still possible dangers of AI we could see in the future? These include things like AI being programmed to harm humans, for example, autonomous weapons trained to kill during a war.

Then there’s the risk that AI could focus single-mindedly on its programmed goal, developing destructive behaviors as it attempts to accomplish that goal at all costs, even when humans try to stop this from happening.

Skynet taught us what happens when an AI becomes sentient. However, though Google engineer Blake Lemoine may have tried to convince everyone that LaMDA, Google’s artificially intelligent chatbot generator was sentient back in June 2022, there’s thankfully no evidence to date to suggest that’s true.

The Challenges of AI regulation

On Monday, May 15, 202, OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence, warning, “If this tech goes wrong, it can go quite wrong.” The OpenAI CO made it clear he favors regulation and brought many of his own ideas to the hearing. The problem is that AI is evolving at such speed, it’s difficult to know where to start with regulation.

Congress wants to avoid making the same mistakes made at the beginning of the social media era, and a team of experts alongside Senate Majority Leader Chuck Schumer are already working on regulations that would require companies to reveal what data sources they used to train models and who trained them. It may be some time before exactly how AI will be regulated becomes clear, though, and no doubt there will be backlash from AI companies.

The Threat of an Artificial General Intelligence

There’s also the risk of the creation of an artificial general intelligence (AGI) that could accomplish any tasks a human being (or animal) could perform. Often mentioned in sci-fi films, we’re probably still decades away from such a creation, but if and when we do create an AGI, it could pose a threat to humanity.

Many public figures already endorse the belief that AI poses an existential threat to humans, including Stephen Hawking, Bill Gates, and even former Google CEO Eric Schmidt, who stated, “Artificial intelligence could pose existential risks and governments need to know how to make sure the technology is not misused by evil people.”

So, is artificial intelligence dangerous, and do its risk outweigh its benefits? The jury’s still out on that one, but we’re already seeing evidence of some of the risks around us right now. Other dangers are less likely to come to fruition anytime soon, if at all. One thing is clear, though: the dangers of AI shouldn’t be underestimated. It’s of the utmost importance that we ensure AI is properly regulated from the outset, to minimize and hopefully mitigate any future risks.

Related posts

• Le Wi-Fi est-il sûr pour votre santé et à la maison ?

• Comment résoudre les problèmes de WiFi dans Windows 11/10

• Comment configurer WiFi Range Extender, Booster et Repeater

• Comment mesurer la force du signal WiFi dans Windows 10

• Windows ne se connecte pas au WiFi au démarrage

• Conseils de sécurité Wi-Fi : Précautions à prendre sur les points d'accès publics

• Sauvegarder et restaurer des profils de réseau Wi-Fi ou sans fil dans Windows 10

• Meilleures applications gratuites de bruit blanc pour Windows 10

• Comment supprimer le profil réseau WiFi de Windows 11/10

• Le WiFi ne demandera pas de mot de passe dans Windows 11/10

• Comment renommer l'adaptateur réseau WiFi sur Windows 11

• Utilisez le scanner WiFi acrylique gratuit pour l'analyse du réseau WiFi en temps réel

• Correction Pas d'Internet, erreur WiFi sécurisé sur Windows 11/10 [Corrigé]

• Comment désactiver le WiFi à l'aide de CMD ou de Powershell dans Windows 10

• Découvrez qui utilise votre connexion réseau sans fil WiFi

• NetSurveyor : scanner Wi-Fi et outil de découverte de réseau pour PC

• Meilleurs cours de formation en ligne gratuits pour rester en forme à la maison

• Comment vérifier si votre PC peut exécuter l'outil Windows 11 PC Health Check

• Comment vérifier si un ordinateur portable Windows prend en charge le Wi-Fi 2,4 ou 5 GHz

• Comment connecter deux ordinateurs portables en utilisant le WiFi pour jouer à des jeux LAN