IT News

Last Tuesday, Microsoft patched a vulnerability it rated as max critical in its M365 Copilot AI platform. On Monday, the researchers who discovered the vulnerability and reported it to Microsoft revealed how their proof-of-concept exploit could retrieve 2FA codes and other sensitive data from emails accessible to Copilot.

Microsoft and other LLM providers have been unable to prevent their products from complying with malicious requests to reveal data. The root cause: AI bots are unable to distinguish between instructions provided by users and those snuck into third-party content the models are summarizing, drafting responses to, or using to perform other actions on behalf of the user. With no way to secure this crucial boundary, Microsoft and its peers are left to erect complicated and ad hoc guardrails designed to rein in the consequences of this incurable gullibility.

Jumping over guardrails

One guardrail built into Copilot and most other LLMs prevents them from submitting web forms, sending emails, and taking similar actions that can be used to exfiltrate data from the user. To work around this, LLM hackers turned to markup language, which, among other things, allows users to add formatting elements such as headings, lists, and links to text without the need for HTML tags. Another workaround is to wrap sensitive data inside HTML tags such as <img> and <form>. In either case, a web request showing the data hits the attacker’s web server, where the secret information is captured in logs.

Read full article

Comments

Asus drží dva roky starý design bez velkých změn • Novinka hlavně upgraduje procesor a zjasňuje displej • Na hry je ho škoda, ale zábavě se nebrání

Poměrně krátký život jazykového modelu Fable okomentoval už téměř každý majitel klávesnice a celá komunitní reflexe nešťastné situace nabobtnala během několika málo dnů až do bizarní podoby. Ale nezoufejte, ještě je tu přece chatbot youraislopbores.me. Na internetu sice straší už od začátku jara, ...

Evropská komise představila Akt o čipech 2.0 a Akt pro rozvoj cloudu a AI. • Nařízení mají podpořit odstřižení Evropy od závislosti na cizích technologiích. • Komise zahájí konzultace na vytvoření kapitálového fondu.

Tyto filmy a seriály jsou teď na Oneplay (dříve Voyo) nejoblíbenější. Nerozlišujeme žánr, stáří ani hodnocení na filmových webech. Jde o souhrnnou oblíbenost za poslední týdny, kterou zjišťuje a počítá web FlixPatrol.

Většina zákazníků nakupujících v retailu vybírá komponenty tak, aby zůstala rezerva pro budoucí upgrade. Tomu odpovídá i pojetí některých testů - někdy ale není úplně intuitivní…

Tchajwanský výrobce TaMiCo postaví u Žatce továrnu za 900 milionů korun a v regionu vytvoří logistické zázemí pro evropský trh • . • Ústecký kraj se díky nové investici stane klíčovým dodavatelem pro německé fabriky a upevní svou roli v čipovém řetězci. • Příliv high-tech firem z Asie pokračuje ...

Představte si plastovou láhev, kterou klidně pohodíte v lese. Jenže namísto toho, aby pod nánosy jehličí připomínala nezbednou civilizaci ještě dávno po smrti vašich pravnoučat, během několika málo dnů se sama rozpadne na jednotlivé molekuly. Přesně toto slibuje výzkum na poli tzv. žijícího plastu ...

Šéf Microsoftu Satya Nadella je rozhořčený, že po 25 letech investic nepřináší Xbox společnosti žádné citelné zisky. Oznámil, že tato situace musí skončit a ukázal na novou šéfku divize, Ashu Sharmu…

Kratší pracovní doba, home office nebo sdílené místo. Pečující mají několik možností, jak zkusit sladit zaměstnání s péčí o blízkého. Projděte si, na co můžete mít v práci nárok.

Jaký je rozdíl mezi založením a vznikem obchodní společnosti? Co to znamená pro praxi? Jak je to s převody obchodních podílů ve společnosti?

Core 200 do socketu LGA-1700? I na takové věci si budeme muset zvyknout. Intel se totiž rozhodl pojmenovat novou řadu procesorů Raptor Lake jako Core 200…

A decade ago, AMD added a protection to its high-end CPUs to protect them against cold boot attacks and other types of physical exploits that siphon sensitive data out of the connected memory chips. Short for Transparent Secure Memory Encryption, TSME encrypts the entire contents stored in memory, making the data useless to physical attackers.

Over time, AMD added TSME to lower-end processors, including the consumer version of its Ryzen chips, a CPU that costs less than the Pro version. Over the years, users of these lower-end chips have gotten used to the added security. Recently and without warning or notice, this lower-end line of AMD chips suddenly dropped the protection, and did so in a way that was impossible to detect on Windows machines and required a fair amount of technical work when using Linux.

Now you see it, now you don't

AMD has yet to say why TSME worked on these CPUs, or even to confirm the change. AMD declined to answer questions sent by email other than to say TSME "is a security feature only applied to PRO CPUs as part of AMD PRO Technologies." The statement is the first known time the chipmaker has explicitly made this restriction public.

Read full article

Comments

Inovace včetně modernějšího Face ID pod displejem mají zpoždění • Fotoaparát s proměnlivou clonou získá pouze největší model Max • Staronové šasi může trpět loupáním laku a blednutím na slunci

Můžete využít služby pro posílání souborů nebo moderní cloudová úložiště • Operační systémy Windows 10 a 11 obsahují integrovanou aplikaci OneDrive • Vlastní NAS umožňuje bezpečné sdílení souborů bez omezení cizích serverů

Předseda vlády Spojeného království chce regulovat sociální média • . • Děti do 16 let na ně nebudou mít přístup. • Legislativa má platit od jara 2027.

Finský startup Donut Lab na veletrhu CES sliboval revoluční sodíkové baterie • Experti však odhalili, že šlo pouze o obyčejný lithium-iontový akumulátor • Firma od drobných investorů podvodem získala zhruba 25 milionů dolarů