Turing complete LLMs

vorhergehende Artikel in: Rants
05.10.2024

Ich beschäftige mich mit Cybersecurity auch beruflich - während mein Fokus privat und als Hobby hier eher auf crypto und im Speziellen auf PKI liegt interessiere ich mich beruflich für secure Softwareentwicklung und Minimierung von Angriffsoberflächen.

Außerdem bin icvh so alt, dass ich noch die Ausläufer des ersten KI-Winters mitbekommen habe - Damals wussten wir, was die Protagonisten des ersten KI-Booms falsch gemacht hatten und wo sie Anwendungen und Leistungen der KI und neuronaler Netze gnadenlos übertrieben haben. Leider sehen wir dasselbe auch heute: Es gibt schlicht kein echtes Problem, das die Systeme, die heute mit KI, ML, Deep Learning und all den anderen Buzzwords überschreiben werden, zuverlässig und besser lösen könnten als die bestehenden Ansätze. Das Zusammenfassen von Texten oder das Generieren von Bildern ist kein Problem, das gelöst werden müsste - das sind Möglichkeiten zur Bekämpfung von Langeweile bei Zivilisationsopfern. Aber ich schweife ab - kommen wir zurück zu Cybersecurity:

Ich beschäftige mich wie gesagt mit Angriffsoberflächen und ihrer Minimierung. Heutzutage existieren in nicht extra angepassten Systemen diverse turing-complete Infrastrukturen (vulgo: Programmierspachen), die von Angreifern ausgenutzt werden können - noch schlimmer: manche davon können benutzt werden, ohne dass man dazu einen Kompiler benötigt.

Hier existiert kein Vorteil irgendeines Betriebssystems: Bei Windows ist die normale Batch-Skripot-Laufzeitumgebung ebenso standardmäßig an Bord wie auch die Powershell - Bei Linux ist immer irgendeine Shell verfügbar und bei heutigen Distributionen kommt die Paketverwaltung nicht mehr ohne eine Skriptsprache - zumeist Python - aus. Das sind hochgefährliche Konstrukte, die es einem Angreifer erlauben, beliebigen Code nachzuladen und gleichzeitig durch die eigenen Sicherheitlücken die Angriffsoberfläche massiv erhöhen.

Aber die Welt kann nicht verrückt genug sein (siehe Blockchain, NFT und der horrende Energieverbrauch, den unsere Zivilisation derzeit für Chatbots rausbläst) - Beweis: dieser Artikel hier, der erklärt, dass es durch die Einbindung von WASM in eine Font-Rendering-Engine möglich ist, ein gesamtes LLM im Kontext dieser Font-Rendering-Engine laufen zu lassen.

Nachdem ich das gelesen hatte, bin ich wieder bei dem alten Zitat gelandet: "Die Menschheit hats einfach nicht verdient"...

Alle Artikel rss Wochenübersicht Monatsübersicht Codeberg Repositories Mastodon Über mich home xmpp


Vor 5 Jahren hier im Blog

  • Derangement - theoretische Betrachtungen

    23.12.2020

    Ich habe bereits über meine Implementierung eines Derangement berichtet - hier noch einige theoretische Nachbetrachtungen...

    Weiterlesen

Neueste Artikel

  • Asymmetrische Kryptographie

    Ich habe mich mit der Idee schon länger getragen: Nochmal einen Rundumschlag zu asymmetrischer Kryptographie zu machen. Dabei werde ich mich auf Demonstrationen der einzelnen Konzepte und Operationen mit Beispielcode konzentrieren und zu jedem der vorgestellten Konzepte mehr oder weniger ausführlich bezüglich der Einsatzszenarien und Vor- und Nachteile Stellung beziehen

    Weiterlesen
  • Eingereichter Vortag zum 39C3 - Gentlemen - check your architecture!

    Dieser Vortrag wurde zum 39C3 eingereicht und abgelehnt. Ich möchte einige Open-Source-Frameworks für verschiedene Programmiersprachen vorstellen, mit denen sich Architekturregeln pro Projekt oder Organisation festlegen und mithilfe gängiger Testinfrastrukturen durchsetzen lassen.

    Weiterlesen
  • Chatkontrolle vermeiden ist gleichzeitig unwichtig und nicht genug!

    Das ist ein Abstract eines Vortrages, den ich auf dem 39C3 halten wurde, der aber abgelehnt wurde

    Weiterlesen

Manche nennen es Blog, manche Web-Seite - ich schreibe hier hin und wieder über meine Erlebnisse, Rückschläge und Erleuchtungen bei meinen Hobbies.

Wer daran teilhaben und eventuell sogar davon profitieren möchte, muss damit leben, daß ich hin und wieder kleine Ausflüge in Bereiche mache, die nichts mit IT, Administration oder Softwareentwicklung zu tun haben.

Ich wünsche allen Lesern viel Spaß und hin und wieder einen kleinen AHA!-Effekt...

PS: Meine öffentlichen Codeberg-Repositories findet man hier.