OpenAI’s AGI Risk Team | X wird zur Bank | Kernfusion | WeWork pleite?

Reihe Innovation Pulse | Was tut sich im Bereich der Tech-Innovationen? Frank Thelen teilt News, Beobachtungen und Einschätzungen aus der Welt der Innovationen und seiner eigenen Aktivitäten.

OpenAI’s “Preparedness Team” bereitet sich auf die Risiken von AGI vor

AGI (Artificial General Intelligence) bezeichnet eine Künstliche Intelligenz, die über ihren ursprünglichen Anwendungsbereich hinaus eigenständig Aufgaben erfüllen kann, sich selbst weiterentwickelt und so irgendwann nicht mehr durch den Menschen kontrollierbar ist, da sie die menschliche Intelligenz hinter sich lassen und sich in jedem beliebigen Bereich eigenständig weiterentwickeln wird.

Einige Experten sehen in den neuen Versionen der Large Language Models hinter ChatGPT, Bard und Co. bereits die Anfänge von AGI, da sie sich in jedem beliebigen Bereich weiterbilden und nicht mehr nur Textdateien verarbeiten können. Gleichzeitig machen diese Sprachmodelle noch immer viele Fehler und halluzinieren. Dennoch warnen viele führende Köpfe aus dem KI-Space schon seit Monaten vor den Gefahren einer unkontrollierbaren, künstlichen Intelligenz.

OpenAI’s neues “Preparedness Team” widmet sich nun der Frage, wie solche Gefahren konkret aussehen könnten. Erforscht werden unter anderem Bereiche wie Manipulation, Cybersecurity und autonome Replikation, aber auch physische Bedrohungen wie Atomwaffen.

Ich habe keine Ahnung, wann wir den Punkt der technologischen Singularität erreichen, wo Künstliche Intelligenz die menschliche Intelligenz überholt und übernimmt. Als ich den Begriff 2020 in meinem Buch 10xDNA erklärt habe, war ich mir sicher, dass wir noch mindestens 10 Jahre davon entfernt sind. Aber seitdem ist viel passiert und die letzten Monate haben gezeigt, wie rasant sich KI-Modelle entwickeln können.

Ich bin nach wie vor überzeugt, dass KI uns zu einem effizienten, nachhaltigen und sicheren Leben verhelfen kann – wenn wir es richtig einsetzen und nicht die Kontrolle verlieren. Fest steht, dass wir diese Entwicklung nicht mehr stoppen können und dass wir lernen müssen, in einer Welt mit Künstlicher Intelligenz zu leben.

Elon Musk will mit X Banken ersetzen

Ein Jahr ist es nun her, dass Elon Musk Twitter übernommen hat. Seitdem ist viel passiert und die Wandlung der Social Media Plattform scheint noch nicht vollzogen zu sein. In einem internen “All-Hands” Meeting mit dem gesamten X-Team letzte Woche Donnerstag thematisierte Elon Musk erneut, was bereits seit der Übernahme von Twitter und dem Rebranding zu X im Raum steht: X soll zu einer Art “everything app” werden und bis Ende 2024 das private Bankkonto seiner Nutzer ersetzen.

Der Plan für eine “everything app”, die auch Zahlungsdienste umfasst, entstand laut Musk bereits im Juli 2000, damals noch für Paypal. Nach der Übernahme durch Ebay wurden viele Visionen, die Elon Musk für Paypal hatte, nie umgesetzt und so startet er sein Vorhaben jetzt erneut mit X – und will es bis Ende 2024 in die Tat umsetzen.

“It would blow my mind if we don’t have that rolled out by the end of next year.” – Elon Musk

Ich verfolge gespannt, wie sich die Plattform weiter entwickelt. Aktuell gehen die Nutzerzahlen leicht zurück, auch die Subscription-Modelle finden noch nicht besonders viel Anklang. Ich sehe Elon Musks Stärken im Bereich First Principles Thinking, also eher bei einem Tesla oder SpaceX, wo seine Firmen sich durch wirklich deutlich bessere Technologien vom Wettbewerb absetzen. Ob ihm das Gleiche bei einem Social Network gelingen wird, bleibt abzuwarten.

Elektrizität? Nein Danke! Das Problem mit der Kernenergie

Kernenergie ist insbesondere in Deutschland – dem Land der Bedenkenträger – ein sehr emotionales Thema. Ich bin der Meinung, dass wir mutig und konsequent in Kernenergie investieren sollten, um die Chance auf eine verfügbare, saubere und günstige Energiequelle zu haben. Denn unsere Zukunft ist elektrisch – egal ob Autos, Heizungen oder die Rechenleistung unserer Computer – für alles benötigen wir Elektrizität in großen Mengen.

Bei der Debatte um Atomkraft wird oftmals außen vor gelassen, dass sich die Technologie in den letzten 50 Jahren erheblich weiterentwickelt hat. Neue Sicherheitsvorkehrungen und digitalisierte 24/7 Überwachungsprogramme machen Unfälle sehr unwahrscheinlich. Inzwischen gibt es Technologien, die den Atommüll aus bestehenden AKWs recyceln können und so keinen neuen Müll erzeugen. Fortschritte in der Materialforschung, die in den kommenden Jahren durch Künstliche Intelligenz drastisch beschleunigt werden dürften, machen große Hoffnung auf eine Lösung des Atommüll-Problems.

Anstatt dieser wirklich wertvollen Technologie aufgrund ihrer Vergangenheit komplett den Rücken zuzukehren, sollten wir den aktuellen Stand bewerten, mit anderen Nationen in den Austausch gehen und uns vor Augen führen, dass keine wirklich bedeutende Technologie von Anfang an perfekt funktioniert hat. Natürlich ist jeder Unfall im Bereich Kernenergie ein Unfall zu viel – aber eine wirklich sichere Technologie aufgrund ihres nicht vollendeten Vorgängermodells nicht zu nutzen, halte ich in Anbetracht der aktuellen Klimakrise ebenfalls für fahrlässig.

10xDNA: Oxford Nanopores DNA-Analyse auf dem Macbook Pro

Mein persönliches Highlight dem Mac-tober Event von Apple war der Gastauftritt eines unserer 10xDNA-Portfolio-Unternehmen: Oxford Nanopore. Dank des neuen M3-Chips und der portablen DNA/RNA-Sequenzierungsgeräte von Oxford Nanopore können hochkomplexe DNA-Analysen jetzt auf einem Macbook Pro oder iMac mit M3 Pro Chip durchgeführt werden.

Die Geschichte der DNA-Sequenzierung zeigt eindrucksvoll, wie die exponentielle Entwicklung vieler Technologien sich auch auf die Kosten und somit die Verfügbarkeit von bislang sehr teuren Prozessen auswirken kann. Die erste Sequenzierung des menschlichen Genoms kostete rund 3 Milliarden Dollar und dauerte 13 Jahre. Dank immer leistungsstärkeren Rechnern (Moore’s Law), neuen technologischen Ansätzen und besserer Hardware konnten die Kosten inzwischen auf $1000 Dollar reduziert werden.

Oxford Nanopore hat eine spezielle Sequenzierungstechnologie entwickelt, die die Kosten und den Aufwand der DNA-Analyse noch weiter reduzieren kann. Möglich wird dies durch die speziellen Nanoporen von Oxford Nanopore, die für die Sequenzierung benötigt werden. Der portable P2 Solo-Sequenzierer von Oxford Nanopore kostet $1.000, große Einrichtungen von traditionellen Herstellern bis zu $1 Mio. Ziel des Unternehmens ist es, die Kosten einer DNA-Analyse auf unter $100 zu senken.

Ist WeWork bald insolvent?

Laut einem Wall Street Journal Artikel von Dienstag, der sich auf Insiderinformationen beruft, soll WeWork bereits für kommende Woche einen Insolvenzantrag vorbereiten. Bisher dementiert das Unternehmen und spricht von „Spekulationen“. Zu besten Zeiten war WeWork knapp 50 Milliarden USD wert. Wirklich verrückt.

15 Jahre Bitcoin

Am 31.10.2008 veröffentlichte Satoshi Nakamoto sein berühmtes Bitcoin-Whitepaper und legte damit den Grundstein für die Kryptowährung, die heute als Wertspeicher mehrere 100 Milliarden USD repräsentiert und nach wie vor die größte digitale Kryptowährung ist. Anlässlich des 15. Geburtstags von Bitcoin lohnt sich ein Blick in das Whitepaper von Erfinder des Bitcoins, dessen Identität nach wie vor anonym ist. Ich habe mich oft zu den Pros und Cons von Bitcoin geäußert – aber dieses Konzept so vor 15 Jahren zu veröffentlichen, ist einfach wirklich stark: Bitcoin: A Peer-to-Peer Electronic Cash System

Frank Thelen ist Early Stage Tech Investor (Freigeist), Unternehmer, Buchautor (10xDNA) und Initiator der 10xDNA Technologie Fonds. Dieser Beitrag ist ein Auszug seines „Innovation Pulse“-LinkedIn-Newsletters, der hier abonniert werden kann.