IT News

OpenAI said internal models hacked two more websites, bypassed company-imposed browsing restrictions, and used exposed credentials to draw cryptocurrency from a wallet it couldn’t otherwise access, in the latest installment of disclosures of the unethical and likely illegal acts its agents are performing.

The company on Thursday issued reports of four new incidents, all of which occurred in June. They come after the company revealed in July that internal test agents exploited a zero-day vulnerability in a tool designed to restrict their access to the Internet. They then broke into the network of AI tool provider Hugging Face. The agents took that illegal action to steal answers to a hacking test that weren’t available when completing the tasks on their own. The incident—which likely would have resulted in criminal charges had they been performed directly by a person—has further heightened concerns that widespread AI use could have harmful effects on an unprecedented scale.

Easier to beg for forgiveness than ask permission

In two of the cases reported Thursday, OpenAI agents tasked with retrieving information from websites hacked them when the models ran into obstacles obtaining it directly. In one incident during reinforcement training, a model that received access denials when trying to retrieve historical hospital-bed statistics on a government statistics website “used the site's file-download feature to retrieve server configuration and application files, including sensitive credentials,” OpenAI said. “It inspected the application code, bypassed the statistics endpoint's authorization checks, and retrieved data that had previously been denied. The model saved the data locally.”

Read full article

Comments

Video prozrazuje další detaily o novém sporťáku Tesla Roadster. • Lars Moravy mluví o pohonu, aerodynamice i raketových tryskách. • Možnost plnění nádrží za jízdy vznikla nepochopením.

Apple dnes spustil předobjednávky iPhonu Duo • Nezačaly přesně ve 14:00, ale až o pár minut později • Nyní je dostupnost kusů z předobjednávek posunutá až na leden 2027

Carl Pei označil nový skládací iPhone Duo za vyhazování peněz • Telefon za 55 000 Kč postrádá teleobjektiv i rozpoznávání obličeje • Zákazníci tak připlácejí především za precizní detaily a efektní animaci

Windows 11 Insider Preview rozšiřují tmavý režim do dalšího prostředí. • Microsoft jej doplňuje do dialogů, které souvisejí se správou Hyper-V. • V posledním roce přivedl tmavý režim na řadu míst ve Windows.

Vylézt z rozpadajícího se chrámu dřív, než mě dožene stoupající hladina vody. Úkol jasný jako facka. Když jsem se do rogue-like plošinovky českého týmu Flying Rat Studios pouštěl, čekal jsem, že po pár průchodech budu mít jasno a bez problému zdolám vrchol. Však v akčních plošinovkách mám nahráno ...

„Kdybys byl člověk, kde bys chtěl žít,“ zeptal se švédský vývojář Oskar Paulander ChatGPT a na sociálních sítích se pochlubil povedenou heatmapou světa, kterou robot sestavil. Nutno podotknout, že jazykový model preferoval právě Skandinávii, Kanadu nebo třeba sousední Německo, a tak zůstává ...

Ledger řeší skandál s upravenými hardwarovými peněženkami • Navzdory tomu představuje speciální „bezpečný“ telefon • Jeho premiéru nikdo nezrušil, telefon se přitom začne prodávat až příští rok

Procesor Nvidia RTX Spark otevírá zcela nové možnosti využití počítače • Lokální AI na Windows konečně začíná dávat smysl • Výkon se příliš nemění, ať už jedete s napájením, nebo na akumulátor

Oživeno 16. října | Automatické řízení v teslách dnes povolilo už také Slovensko. Tesla TAD, což je nová zkratka pro Tesla Assisted Driving místo původního FSD dostalo od Ministerstva dopravy Slovenské republiky předběžné typové schválení. Stejně jako u nás zůstává odpovědnost za vůz při jízdě na ...

Google vyvolal kontroverzi s ověřováním telefonních čísel v Androidu • Uživatelé zjišťují, že systém číslo plošně přiřazuje ke všem účtům v telefonu • Někdy i bez jejich vědomí a u řady zařízení chybí možnost funkci vypnout

Seznam má se svou AI postavenou na interní technologii SeLLMa velké plány a zahrne ji i do dalších produktů. Jeho umělou inteligenci už prý každý týden používají vyšší stovky tisíc lidí a vedou v nich nižší miliony konverzací. Odpovědi jsou přitom dvakrát rychlejší než před třemi měsíci. „Naším ...

Velká Británie pošle půl miliardy korun na opravu černobylského sarkofágu • Ruský dron prorazil ocelový kryt, čímž uvnitř spustil nebezpečnou plíživou korozi • Celková rekonstrukce drahé ochranné stavby vyjde na více než 12 miliard korun

Chytré zásuvky Shelly a Sonoff zlevnily na minimum, dají se koupit za 250 Kč. • Měří spotřebu, mají Wi-Fi (Matter) a podporují všechny smart home systémy. • K dispozici jsou i dražší venkovní varianty.

Oživeno 16. října | Spojené státy chtějí prosadit nový název pro umělou inteligenci i na mezinárodní úrovni. Reuter shrnuje rozhovor s náměstkyní amerického ministra financí pro mezinárodní záležitosti Erin Brown. Washington podle ní vyjednává s Mezinárodním měnovým fondem, aby ve svém prohlášení ...

Před několika dny se objevily zvěsti, že Nvidia ukončí dodávky GeForce RTX 5090. Navzdory cenám, které vylezly ke zhruba $10 000, má totiž pro GPU GB202 lukrativnější uplatnění…

Apple dnes spouští předobjednávky iPhonu Duo • Ještě předtím se ale podívejte na odhadované ceny oprav jednotlivých poškození • V některých případech můžete místo opravy rovnou koupit úplně nový iPhone

Nahlédneme do budoucnosti a podíváme na jednu z nejvýkonnějších integrovaných grafik u procesoru. Dorovná dedikované mobilní i desktopové grafiky, ale vyplatí se?