KI-Sicherheitsforscher Greenblatt: KI-Labore rüsten weiter, weil jeder sich für verantwortungsvoller hält
Ryan Greenblatt, Chefwissenschaftler von Redwood Research, schätzt das Risiko einer KI-Übernahme auf dem derzeitigen Pfad auf 50 bis 60 Prozent. Sam Harris hält das für unvereinbar mit dem Tempo der Branche: Die Forscher des Manhattan-Projekts hätten bei zehn Prozent abgebrochen. Greenblatt erklärt das mit der Wettlauflogik von Anthropic und OpenAI und setzt auf ein internationales Abkommen.
KI-Agent optimiert Token-Kosten: Nvidia spart fast 50 Prozent bei Coding-Agenten durch bessere Steuerung
SoL-Pi optimiert die Steuerungsschicht zwischen Agent und Umgebung und senkt den Token-Verbrauch von Coding-Agenten um bis zu 49 Prozent bei nahezu gleicher Leistung. Ein Research-Agent durchsuchte dafür 152 Ansatzrichtungen in über 3.000 Durchläufen. Auf anderen Benchmarks fällt der Vorteil geringer aus.