L¡¯intelligence artificielle (IA) est une technologie qui permet aux ordinateurs et aux machines d'imiter les capacit¨¦s humaines comme l'apprentissage, la compr¨¦hension, la r¨¦solution de probl¨¨mes, la prise de d¨¦cisions, la cr¨¦ativit¨¦ et l¡¯action ind¨¦pendante.
Les organisations utilisent l¡¯IA pour favoriser l¡¯innovation, autonomiser leurs ¨¦quipes et simplifier les op¨¦rations de diff¨¦rentes fa?ons. Selon la mani¨¨re dont l¡¯IA est impl¨¦ment¨¦e, ses fonctionnalit¨¦s sont souvent soutenues par le traitement analytique pr¨¦dictif, l¡¯apprentissage automatique (ML) et d'autres fonctionnalit¨¦s. Les cas d'utilisation de l¡¯IA comprennent les suivants, entre autres?:
Le mat¨¦riel que nous utilisons pour favoriser l¡¯innovation, simplifier les processus et g¨¦rer les op¨¦rations du quotidien ¨¦volue. Les architectures avanc¨¦es telles que les machines Reduced Instruction Set Computing (RISC), g¨¦n¨¦ralement nomm¨¦es d¨¦veloppement ARM, et les architectures Complex Instruction Set Computing (CISC), comme x86, jouent des r?les essentiels dans le secteur de l¡¯informatique. Face aux investissements importants d¡¯Apple, Microsoft, Broadcom, Intel et d'autres entreprises dans les technologies d¡¯optimisation de l¡¯IA, nous sommes entr¨¦s dans l¡¯¨¨re des PC dot¨¦s de l¡¯IA. Ces syst¨¨mes sont optimis¨¦s pour g¨¦rer un large ¨¦ventail de t?ches optimis¨¦es par l¡¯IA, avec notamment la reconnaissance vocale, le traitement du langage naturel et l'apprentissage automatique. Le mat¨¦riel sp¨¦cifique ¨¤ l¡¯IA acc¨¦l¨¨re un grand nombre de ces t?ches sur l'appareil, permettant une inf¨¦rence de l¡¯IA puissante et m¨ºme un entra?nement sur les machines du quotidien.
Pour alimenter l'apprentissage profond et entra?ner les mod¨¨les d¡¯IA, les organisations utilisent les performances et le d¨¦bit important offerts par les data centers dot¨¦s de l'IA. Ces installations contiennent de grandes quantit¨¦s de mat¨¦riel, notamment des GPU (processeurs graphiques) et des syst¨¨mes d'acc¨¦l¨¦ration de l'IA. Comme le note un article r¨¦cent de Forbes qui se penche sur leurs capacit¨¦s, ils offrent ??," et consomment collectivement une grande quantit¨¦ d'alimentation, n¨¦cessitant m¨ºme des solutions de refroidissement de pointe.
Les centres des op¨¦rations de s¨¦curit¨¦ (SOC) peuvent utiliser l¡¯IA pour attribuer les ressources et limiter les risques plus efficacement. Gr?ce ¨¤ l¡¯apprentissage profond, ¨¤ l'automatisation et ¨¤ d'autres fonctionnalit¨¦s, ils peuvent acc¨¦l¨¦rer leurs mesures de r¨¦ponse et d¡¯identification des risques, en particulier s¡¯ils utilisent une plateforme de cybers¨¦curit¨¦ qui regroupe les solutions et int¨¨gre l¡¯IA pour simplifier davantage leurs op¨¦rations.
Des outils comme ChatGPT, OpenAI et Microsoft Copilot ¨¦tant facilement accessibles, les acteurs malveillants essaient sans cesse d'acc¨¦der ¨¤ des donn¨¦es sensibles. Dans certains cas, leur but est de cibler des outils d¡¯IA pour manipuler leur comportement et les pousser ¨¤ fonctionner d'une mani¨¨re contraire ¨¤ l'usage pr¨¦vu. Les principaux risques pour la s¨¦curit¨¦ li¨¦s ¨¤ l¡¯IA comprennent l¡¯IA malveillante, l'automatisation des fraudes et la gouvernance insuffisante des donn¨¦es.
Les organisations doivent non seulement suivre le rythme, mais aussi prendre une longueur d'avance sur les cybercriminels, en assurant l'adoption de la technologie d¡¯IA. Dans le cadre de cette strat¨¦gie, il est essentiel d'acqu¨¦rir une compr¨¦hension plus approfondie des risques pour la s¨¦curit¨¦ li¨¦s ¨¤ l¡¯IA.
Une politique qui tient compte des risques et qui fournit des conseils sur la bonne utilisation de l¡¯IA est un point de r¨¦f¨¦rence important pour les employ¨¦s. Assurez-vous qu¡¯elle est respect¨¦e et maintenue ¨¤ jour afin de minimiser les risques qui menacent votre organisation. Il est essentiel de mettre en place les politiques et proc¨¦dures adapt¨¦es pour assurer la conformit¨¦ et maintenir une s¨¦curit¨¦ efficace des donn¨¦es. Vous pouvez explorer des exemples d¡¯organismes de r¨¦glementation f¨¦d¨¦raux et du secteur et travailler avec des pairs pour cr¨¦er l'¨¦bauche de votre propre politique d¡¯IA.
Les deepfakes deviennent de plus en plus convaincants ¨¤ mesure que la technologie d¡¯IA g¨¦n¨¦rative (GenAI) continue d'¨¦voluer. Ils constituent un grand risque pour la s¨¦curit¨¦ des donn¨¦es, car les acteurs malveillants s¡¯en servent pour manipuler des individus ou des groupes, en les poussant ¨¤ croire que l¡¯image, la vid¨¦o ou le texte g¨¦n¨¦r¨¦ est authentique et fiable. Quel que soit le r?le de l¡¯IA, l¡¯intention des cybercriminels dans ces approches (tromper, voler et/ou frauder) reste la m¨ºme.
Le fait de comprendre le fonctionnement des impl¨¦mentations d¡¯IA, y compris la fa?on dont elles utilisent et conservent potentiellement les donn¨¦es, permet d¡¯alimenter une r¨¦ponse de cybers¨¦curit¨¦ efficace. Pendant que les organisations continuent d¡¯imaginer et d¡¯innover avec l¡¯IA, les acteurs malveillants s'adaptent pour profiter des vuln¨¦rabilit¨¦s. Le paysage des menaces ¨¦voluant constamment en parall¨¨le de l¡¯IA, les organisations doivent s¡¯efforcer de s¨¦curiser leurs impl¨¦mentations d¡¯IA de mani¨¨re proactive.
En outre, si vous d¨¦veloppez vos propres syst¨¨mes d¡¯IA et que vous entra?niez ou non vos propres mod¨¨les, les recommandations OWASP sont les suivantes?:
pour plus de d¨¦tails et d¡¯informations techniques.
De nouveaux risques font leur apparition, car la GenAI utilise les capacit¨¦s du ML pour l'analyse des donn¨¦es et la cr¨¦ation. ??La s¨¦curit¨¦ des donn¨¦es de l¡¯apprentissage automatique doit ¨¦galement tenir compte de l¡¯int¨¦grit¨¦ des donn¨¦es en transit et pendant le traitement??, selon un article de la Global Cybersecurity Alliance (GCA) sur la s¨¦curit¨¦ des donn¨¦es avec le ML. ??La compromission de l¡¯int¨¦grit¨¦ des donn¨¦es peut fausser les r¨¦sultats des mod¨¨les. Cela peut mener ¨¤ des d¨¦cisions inexactes ou biais¨¦es, avec des cons¨¦quences potentiellement d¨¦sastreuses.??
Cet article ?:
Les mod¨¨les d¡¯IA sont des structures compos¨¦es d'une architecture et de valeurs de param¨¨tre, qui permettent au syst¨¨me d¡¯effectuer des t?ches telles que la r¨¦alisation de pr¨¦dictions ou la g¨¦n¨¦ration de contenu, ou inf¨¦rence. Ces t?ches peuvent aller de la r¨¦ponse ¨¤ des questions ¨¤ la d¨¦tection de sch¨¦mas dans les donn¨¦es, en passant par la reconnaissance de comportements, et bien plus encore. En g¨¦n¨¦ral, les mod¨¨les d¡¯IA suivent un entra?nement afin d'apprendre les meilleures valeurs de param¨¨tre pour une inf¨¦rence efficace.
Selon les besoins, les objectifs, les exigences de conformit¨¦ et le budget de votre organisation, entre autres facteurs, vous pouvez envisager l¡¯impl¨¦mentation d¡¯un large ¨¦ventail de mod¨¨les d¡¯IA. Cependant, il est important de noter que chaque mod¨¨le d¡¯IA poss¨¨de son propre niveau de risque inh¨¦rent. Il existe ¨¦galement diff¨¦rents types de mod¨¨les d¡¯IA ¨¤ prendre en compte.
Une grande partie des technologies d¡¯IA les plus largement impl¨¦ment¨¦es et ¨¦tablies, que nous connaissons actuellement, sont d¨¦sign¨¦es sous le nom d¡¯IA faible (narrow) ou traditionnelle. Elle peut s'adapter aux requ¨ºtes et/ou aux besoins des utilisateurs, mais ne peut effectuer que des t?ches pr¨¦d¨¦termin¨¦es, souvent dans un domaine d¡¯expertise pr¨¦cis. Des exemples d¡¯IA faible comprennent les chatbots textuels sur les portails d'assistance client, les assistants virtuels comme Siri ou l¡¯Assistant Google, et les logiciels de d¨¦tection de langue dot¨¦s de fonctionnalit¨¦s de traduction automatique.
Selon l¡¯¨¦quipe Donn¨¦es et IA d¡¯IBM, il existe deux cat¨¦gories fonctionnelles d¡¯IA faible?:
Comme son nom l'indique, l¡¯IA de machine r¨¦active ne peut utiliser que les informations que vous lui fournissez sur le moment m¨ºme. Elle peut interagir activement avec son environnement et ses utilisateurs, mais ne peut pas s'am¨¦liorer ni m¨¦moriser ce qu¡¯elle re?oit. Les recommandations de contenu int¨¦gr¨¦es aux plateformes de streaming et de r¨¦seaux sociaux utilisent l¡¯IA de machine r¨¦active, tout comme les outils con?us pour effectuer l¡¯analyse pr¨¦dictive des donn¨¦es en temps r¨¦el.
L¡¯IA ¨¤ m¨¦moire limit¨¦e utilise les donn¨¦es anciennes et actuelles disponibles pour mieux vous aider. Le terme ??limit¨¦?? est li¨¦ au fait qu¡¯elle ne peut pas conserver les donn¨¦es que vous fournissez de mani¨¨re ind¨¦termin¨¦e, et qu¡¯elle repose donc essentiellement sur la m¨¦moire ¨¤ court terme. En revanche, elle utilise les donn¨¦es auxquelles elle peut acc¨¦der pour optimiser ses performances et ses capacit¨¦s en continu. En d'autres termes, son environnement et vos informations permettent de l¡¯entra?ner ¨¤ donner la meilleure r¨¦ponse. Les assistants virtuels, par exemple, sont class¨¦s dans cette cat¨¦gorie.
L¡¯IA faible est utilis¨¦e dans diff¨¦rentes impl¨¦mentations, tandis que les mod¨¨les d¡¯IA fronti¨¨re, plus souvent appel¨¦e IA g¨¦n¨¦rative, font l¡¯objet d'une attention et d¡¯investissements importants. Ces mod¨¨les d¡¯IA sont encore plus avanc¨¦s, exp¨¦rimentaux et orient¨¦s vers l¡¯avenir, d¨¨s leur conception. Comme son nom l¡¯indique, l¡¯IA g¨¦n¨¦rative est con?ue pour g¨¦n¨¦rer du contenu, via des invites ou en acc¨¦dant ¨¤ des donn¨¦es existantes. GPT-4 et Google Gemini Ultra en sont des exemples.
Le rapport de l¡¯universit¨¦ Stanford estime que les co?ts d¡¯entra?nement de l¡¯IA fronti¨¨re ont atteint des ??niveaux sans pr¨¦c¨¦dent??; ¨¤ lui seul, Google Gemini Ultra . En outre, le rapport pr¨¦cise que le secteur est un moteur important de recherche en IA fronti¨¨re et qu¡¯il a produit 51???mod¨¨les d'apprentissage automatique notables?? en 2023, contre 15 dans l'acad¨¦mie. Cependant, en parall¨¨les, 21?mod¨¨les de ce genre ont ¨¦merg¨¦ de collaborations entre le secteur et l'acad¨¦mie. Le rapport note ¨¦galement que, malgr¨¦ un d¨¦clin des investissements priv¨¦s en 2022, les fonds d¨¦di¨¦s ¨¤ l¡¯IA g¨¦n¨¦rative ont atteint 25,2?milliards USD, et ??tous les grands acteurs [¡] ont fait ¨¦tat de collectes de fonds tr¨¨s importantes.???
??L¡¯IA traditionnelle excelle dans la reconnaissance de sch¨¦mas, tandis que l¡¯IA g¨¦n¨¦rative excelle dans la cr¨¦ation de sch¨¦mas. L¡¯IA traditionnelle peut analyser les donn¨¦es et vous dire ce qu¡¯elle voit, mais l¡¯IA g¨¦n¨¦rative peut utiliser ces m¨ºmes donn¨¦es pour cr¨¦er quelque chose d¡¯enti¨¨rement nouveau??, r¨¦sum¨¦ l'auteur Bernard Marr dans (Forbes). ??L¡¯IA g¨¦n¨¦rative et l¡¯IA traditionnelle ont toutes deux un r?le important ¨¤ jouer pour fa?onner notre avenir, et chacune va offrir des possibilit¨¦s uniques. L'adoption de ces technologies avanc¨¦es sera essentielle pour les entreprises et les particuliers qui souhaitent garder une longueur d'avance dans notre paysage num¨¦rique en ¨¦volution rapide.??
Un ensemble d¡¯instructions ¨¦tape par ¨¦tape con?ues pour r¨¦soudre un probl¨¨me ou effectuer une t?che. Il d¨¦finit une s¨¦quence d¡¯op¨¦rations qui peuvent ¨ºtre ex¨¦cut¨¦es par un ordinateur.
Un sous-ensemble de l'apprentissage automatique dans lequel les algorithmes, inspir¨¦s par la structure et le fonctionnement du r¨¦seau neuronal du cerveau humain, apprennent avec de grandes quantit¨¦s de donn¨¦es. Le terme ??profond?? fait r¨¦f¨¦rence au grand nombre de couches dans lequel ces neurones artificiels sont organis¨¦s. L'apprentissage profond excelle dans les t?ches comme la reconnaissance d¡¯image et de parole, le traitement du langage naturel et la reconnaissance de sch¨¦mas plus complexes.
Syst¨¨me con?u pour percevoir son environnement et agir afin d¡¯optimiser ses chances d'atteindre des objectifs sp¨¦cifiques. Il s'appuie sur des capteurs pour rassembler des informations et des algorithmes afin de prendre des d¨¦cisions, d'agir et d¡¯¨¦valuer les effets, et apprend et s'adapte souvent au fil du temps.
Il s'agit de contenu produit ou manipul¨¦ gr?ce ¨¤ des techniques d¡¯IA, comme l'apprentissage profond. Il inclut des images, des vid¨¦os et de l¡¯audio g¨¦n¨¦r¨¦s qui simulent de mani¨¨rent convaincante des ¨¦l¨¦ments du monde r¨¦el, floutant les fronti¨¨res entre authenticit¨¦ et simulation.
Les LLM d¨¦signent des mod¨¨les d¡¯IA dot¨¦s de milliards de param¨¨tres, comme GPT-4, qui sont entra?n¨¦s avec de vastes jeux de donn¨¦es pour manipuler et g¨¦n¨¦rer du texte de type humain. Ils permettent de r¨¦aliser diff¨¦rentes t?ches et applications li¨¦es au langage. Les transformateurs sont actuellement l¡¯architecture dominante pour les LLM.
Il s'agit g¨¦n¨¦ralement d'un mod¨¨le d'apprentissage profond entra?n¨¦ avec un jeu de donn¨¦es ¨¦tendu, qui peut ensuite ¨ºtre r¨¦affect¨¦ pour de nombreuses t?ches diff¨¦rentes. Les LLM sont des exemples de mod¨¨les de fondation, capables d¡¯¨ºtre multimodaux ou sp¨¦cialis¨¦s pour la langue, le code, les images, l¡¯audio ou un ensemble de modalit¨¦s. Les mod¨¨les de base peuvent ¨¦galement ¨ºtre affin¨¦s pour des applications sp¨¦cialis¨¦es, comme les chatbots.
D¨¦couvrez notre hub sur l¡¯IA, qui associe une technologie innovante ¨¤ une s¨¦curit¨¦ de premier niveau. D¨¦couvrez comment l¡¯IA permet aux ¨¦quipes de s¨¦curit¨¦ de pr¨¦voir, anticiper et d¨¦tecter rapidement les menaces. Consultez r¨¦guli¨¨rement le Hub pour avoir acc¨¨s aux ressources mises ¨¤ jour concernant l¡¯impact transformateur de l¡¯IA sur la cybers¨¦curit¨¦. Gardez ainsi une longueur d'avance face aux menaces ¨¦mergentes et d¨¦ployez des solutions d¡¯IA en toute s¨¦curit¨¦.
Recherches associ¨¦es
Articles associ¨¦s