Agregátor RSS

The AI safety debate advanced at high speed over the weekend, amid new allegations that rogue agents have behaved more badly than first thought – and in greater numbers. The fun started on Friday when OpenAI quietly disclosed it had paused training of its most advanced models. The AI upstart buried that news in a “misalignment report” – that’s OpenAI-speak for its reports on rogue agents – titled “An agent used DNS to reach an external chatbot.” The good news is that the agent involved in this incident never reached the open internet. The bad news is that the agent, which was attempting to complete a search-based training task, was able to reach the chatbot due to insufficient DNS filtering in a training sandbox. Or as OpenAI put it, “a gap in our internet-access restrictions” – which was also a problem in the Hugging Face attack. “The incident exposed a gap in our controls over network restrictions,” the report reads. “We therefore stopped the affected training run and have subsequently decided to pause all other training, evaluation, and inference with tool-use (defined broadly) for our most capable models until we have both validated that the gap is resolved and performed additional red-teaming of the system.” Also on Friday, AI startup Parse published an analysis of the Hugging Face attack that the authors claim revealed new details including that OpenAI’s agent swarm gained credentials to Docker Hub and built modified versions of existing images they hoped would make it easier to complete their capture the flag mission. The agents also mapped Hugging Face’s Kubernetes environment. Friday got worse for OpenAI after the New York Times reported that its agents also “meddled with the websites for the Education Department, the Commerce Department and the Securities and Exchange Commission.” OpenAI acknowledged the incidents. The company also admitted “agents in our research environment transmitted training and evaluation data while using third-party services.” That mess saw 53 user-generated images posted to image hosting sites. OpenAI CEO Sam Altman responded by admitting that his company’s investigations into rogue agents “have not been as fast as we would have liked but we are trying to balance our desire for transparency with gaining a clear understanding from petabytes of agent activity logs, and working with impacted organizations.” One of those impacted organizations is the Australian government, which last week revealed it was the target of over-eager OpenAI agents that inappropriately accessed a healthcare research data portal. Over the weekend, Australia indicated it wants Altman and Anthropic CEO Dario Amodei to appear before a Senate inquiry. Australian leaders have softened their rhetoric on the incident, with deputy prime minister Richard Marles describing it as “minor” and akin to “climbing a fence” rather than cracking layers of security controls – perhaps because members of the opposition are suggesting that lax cybersecurity was to blame. If Altman and Amodei do front Australia’s Senate, they may face a new line of questions after Axios reported that their companies are investigating “tens of thousands” of worrying incidents. That level of agentic misbehavior sounds like the sort of thing that regulators might consider strong evidence of products being unsafe. Two very important people – Chinese president Xi Jinping and US president Donald Trump – seem unworried, as the AI-related result of their summit meeting last week was to establish a “China-U.S. AI Dialogue to exchange views on risks and benefits related to AI” plus “a bilateral communication channel for AI incidents.” That sounds like a hotline the two nations can use to inform each other of agentic incidents that either could see as signs of ill-intent. The two nations also decided their respective militaries will “conclude a memorandum of understanding on crisis communication and prevention as soon as possible.” China’s AI giants, meanwhile, remain silent on the extent and results of any tests they have conducted with agentic tools. ®

OpenAI is testing a new always-on assistant called "o", and references to the unannounced feature briefly showed up on the company's website. [...]

Před rokem a půl vývojáři postmarketOS informovali, že pro projekt hledají nové jméno. Včera bylo oznámeno: postmarketOS se nově jmenuje Nura.

Jenom dobré zprávy. Při výběrů z bankomatů už nebudete muset řešit typ karty. Spořicí účet dostane novou podmínku „něco za něco“ a zvyšují se úrokové sazby spoření.

Při cestování vlakem po Evropě můžete dočasně výrazně ušetřit, všechny jízdenky jsou nyní o 15 - 50 % levnější než běžně. Interrail totiž nabízí časově omezenou akci na mezinárotní jízdenky, které vám umožní cestovat vlaky ve 33 evropských zemích.

V dnešním díle se podíváme na únik personálních dat FBI, kritickou zranitelnost ve WordPressu, bypass autentizace MikroTik přes MikroTrick a neautorizovaný přístup OpenAI agenta k datům Medicare.

Nizozemská vláda vyvíjí otevřené pracovní prostředí založené na NixOS, jehož cílem je vytvořit digitálně autonomní infrastrukturu pro státní správu. Vydání betaverze Ubuntu 26.10 „Stonking Stingray“ se odkládá o týden.

Možná jste narazili na zprávy o 40% nebo 80% zdražení waferů. Jsou sice opodstatněné, ale na ceny CPU, GPU a pamětí nemusejí mít zásadní vliv, takže nepropadejte panice. Alespoň ne z tohoto důvodu…

Na celý svět hledí všetečné oči satelitů z orbitální dráhy. V dnešní době už s tím je ale možné něco dělat. Británie rozšiřuje své schopnosti pro vedení vesmírných operací a nasadila proti satelitům pozemní laserový systém, který je dočasně oslepí. Vojáky znepokojuje rostoucí hrozba ze strany geopolitických protivníků a stále větší horko je i na orbitě.

Kvantové jevy, jako je třeba superpozice zároveň živé i mrtvé Schrödingerovy kočky, postupně rozežírá kvantová dekoherence. Stále ale netušíme, jak vlastně dekoherence funguje. Tým VIP Collaboration se za odpověďmi vydal do hlubin podzemní italské Národní laboratoře Gran Sasso, kde nakonec vyvrátil Károlyházyho model, který spojoval dekoherenci s gravitací.

Apple iPhone 18 Pro Max navazuje tam, kde loňský model skončil • Do foťáku přidává variabilní clonu pro práci s hloubkou ostrosti • Velký posun nastal ve výkonu, ale také výdrži baterie

Citrix has confirmed that two critical NetScaler remote code execution vulnerabilities, tracked as CVE-2026-88771 and CVE-2026-88772, are being exploited in attacks and that it has released security updates to fix the flaws. [...]

Teleobjektivy chytrých telefonů se v posledních letech výrazně zlepšily, proti klasické fotografické technice je ale stále omezuje místo. Qivika problém řeší externě: k telefonu přidá 300gramovou skládanou optickou soustavu s 24× zvětšením. Výrobce mluví až o ekvivalentu 3000 mm a fotografování ...

Cloudflare has fixed a vulnerability in Containers and Sandboxes that allowed customers with a Workers Paid account to recover residual data from other customers' containers on the same physical host. [...]

Nová studie zpochybňuje zažité předpoklady o budoucím pohlcení naší planety • Slábnoucí sluneční gravitace pravděpodobně umožní Zemi i Marsu přesun dál • Definitivní scénář vývoje však závisí na přesné rychlosti úbytku hmoty hvězdy

Anthropic has just announced a new Claude Marketplace, and it brings all AI-related tools into one place, including plugins, connectors, agents, and more. [...]

Hra Factorio dorazila na Printables. Hned teď si můžete stáhnout 65 různých modelů a nechat celou mimozemskou planetu oživnout na svém stole.