Die derzeitige massive Explosion generativer KI-Modelle für Text und Bilder war unvermeidlich. Da diese Modelle immer leistungsfähiger werden, ist der Begriff „Basismodell“ ein relativ neuer Begriff, der verwendet wird. Was ist also ein Basismodell?
Der Begriff ist noch etwas vage. Einige definieren es anhand der Anzahl der Parameter und damit der Größe eines neuronalen Netzwerks, andere anhand der Anzahl einzigartiger und schwieriger Aufgaben, die das Modell ausführen kann. Ist es wirklich so spannend, immer größere KI-Modelle zu entwickeln und die Fähigkeit des Modells, mehrere Aufgaben zu bewältigen? Abgesehen von all dem Hype und der Marketingsprache besteht die wirkliche Herausforderung an diesen neuen Generationen von KI-Modellen darin, dass sie die Art und Weise, wie wir mit Computern und Daten interagieren, grundlegend verändern. Sie können an Unternehmen wie Cohere, Covariant, Hebbia und You.com denken.
Wir sind jetzt in eine kritische Phase der KI eingetreten, in der die Frage, wer diese leistungsstarken Modelle aufbauen und bedienen darf, zu einem Hauptstreitpunkt geworden ist, insbesondere da ethische Fragen auftauchen, z. B. wer Anspruch auf welche Daten hat und ob Modelle gegen vernünftige Annahmen verstoßen der Privatsphäre, ob die Zustimmung zur Datennutzung ein Faktor ist, was „unangemessenes Verhalten“ darstellt und viele weitere graue Flecken, die Licht benötigen. Wenn Fragen wie diese auf dem Tisch liegen, kann man davon ausgehen, dass diejenigen, die die KI-Modelle kontrollieren, vielleicht die wichtigsten Entscheidungsträger unserer Zeit sein werden.
Gibt es ein Spiel für die Open-Source-Basismodelle?
Aufgrund der mit KI verbundenen ethischen Probleme gewinnt die Aufmerksamkeit für Open-Source-Basismodelle zunehmend an Bedeutung. Der Bau einfacher Modelle ist jedoch nicht billig. Sie erfordern Zehntausende hochmoderne GPUs (Graphics Processing Units) und viele Ingenieure und Wissenschaftler für maschinelles Lernen. Der Bereich der grundlegenden Modellbildung war bisher nur Cloud-Giganten und äußerst gut finanzierten Start-ups zugänglich, die über ein potenzielles Renditepotenzial von Hunderten Millionen Dollar verfügen.
Fast alle von diesen wenigen Unternehmen erstellten Modelle und Dienste sind Closed-Source-Modelle. Dennoch überträgt Closed Source einer begrenzten Anzahl von Unternehmen, die unsere Zukunft bestimmen werden, große Macht und Entscheidungen, was ziemlich beunruhigend sein kann.
Wir sind in eine kritische Phase der KI eingetreten, in der es zu einem großen Streitpunkt geworden ist, wer diese leistungsstarken Modelle aufbauen und bedienen darf.
Die größte Hürde für grundlegende Open-Source-Modelle es ist immer noch das Geld. Damit Open-Source-KI-Systeme profitabel und nachhaltig sind, sind immer noch mehrere zehn Millionen Dollar erforderlich, um zu funktionieren und ordnungsgemäß verwaltet zu werden. Obwohl dies nur einen Bruchteil dessen ausmacht, was große Unternehmen in ihre Bemühungen investieren, ist es für ein Startup immer noch recht bedeutend.
Wir können sehen, wie der Versuch von Stability AI, Neo-GPT zu öffnen und in ein echtes Geschäft umzuwandeln, scheiterte, da es von Unternehmen wie Open AI und Cohere überholt wurde. Das Unternehmen muss sich nun mit einer Klage von Getty Images auseinandersetzen, die das Unternehmen von seinen Zielen abzulenken droht und sowohl finanzielle als auch personelle Ressourcen zusätzlich belastet. Metas Widerstand gegen Closed-Source-Systeme durch LLaMA hat die Open-Source-Bewegung befeuert, aber es ist noch zu früh, um zu sagen, ob sie ihrem Engagement weiterhin nachkommen werden.
Die gute Nachricht ist, dass Modelle mit sehr neuen Techniken wie Low-Rank Adaptation (LoRa) und Chain-of-Thought Prompting (CoT) immer kleiner werden. Um sie kommerziell nutzbar zu machen, sind jedoch noch viele Iterationen erforderlich, was natürlich Millionen von Dollar und viel Rechenleistung erfordert.
Derzeit scheitern die meisten Open-Source-Unternehmen für generative KI, und wir haben keine Datenpunkte darüber, wie „groß“ und erfolgreich Open-Source-KI-Projekte werden könnten. Das macht es für Risikokapitalgeber schwierig, die Art von Schecks auszustellen, die für solche Projekte erforderlich sind, insbesondere in einer Zeit, in der das Bankensystem so fragil ist. Während sich dies in Zukunft verbessern könnte, führt dies derzeit zu strategischen Investitionen, die den Big-Tech-Unternehmen zugutekommen.
Unabhängig davon, woher die Mittel möglicherweise kommen, müssen wir uns der Realität stellen, dass auch nach dem Abklingen des Hypes und dem Verschwinden der Marketingbotschaften Herausforderungen in den Bereichen Nachhaltigkeit, Risiko-Ertrags-Verhältnis und Rentabilität sowie bei der Aufrechterhaltung von Qualität und Präzision zur Wertgarantie bestehen bleiben . . Kurz gesagt, Open-Source-KI-Unternehmen müssen herausfinden, wie sie zu echten Unternehmen werden können, was lange Zeit das größte Hindernis darstellte.
Implikationen für Startups
Wie wir bei der massiven Verbreitung von ChatGPT gesehen haben, sind Basismodelle die Zukunft, aber wie sie sie beeinflussen werden, bleibt abzuwarten. Es entsteht eine neue Generation von Start-ups, die alle möglichen erstaunlichen Dinge tun, egal ob sie als Closed-Source- oder Open-Source-Unternehmen aufgebaut sind. Um den besten Weg nach vorne zu finden, können sich Gründer schwierige Fragen zu allen Aspekten ihres Unternehmens stellen. Zum Beispiel:
Financiación
¿De dónde viene el dinero? ¿Tendrán los bolsillos lo suficientemente profundos como para hacerlo solo como una empresa de código cerrado? Si no, ¿qué tipo de pareja se buscará? ¿Se puede mantener el control del proyecto? Si se opta por la ruta del código abierto, ¿cómo se financiará?Equipo
¿El proyecto se presta al aporte y desarrollo de la comunidad, o requiere estrictos controles de calidad? ¿Cómo se podrá atraer al mejor talento para desarrollar el proyecto?Experimentación
¿Cómo podrán las personas experimentar el proyecto para aprender sobre él y probarlo? ¿Se abrirá pruebas y a un marketing extensivo? ¿Estará abierto un entorno de pruebas (sandbox) para los desarrolladores? ¿Se generar entusiasmo a través de redes comunitarias de código abierto?Fidelización
¿Cómo se crea la propia comunidad de usuarios? ¿Qué sucede si se cambia de enfoque, es decir, cuánto se puede perderen reputación y en términos de usuarios si comienza como un proyecto de código abierto y luego se debe ir en la dirección opuesta si un socio con recursos lo exige?Ética y educación
¿Cuáles son sus responsabilidades cuando se trata de cómo se utiliza el proyecto? ¿Qué hacer si se coopta para fines no deseados y dañinos? ¿Hay intervención si aprecia un "comportamiento inapropiado" y, de ser así, en qué medida? ¿Cómo se monitorea el proyecto y transmitirá las políticas a los clientes/usuarios? En resumen, ¿dónde están los límites de seguridad?Das ist nur ein Anfang. Derzeit gibt es viel mehr Fragen als Antworten.
Bestimmung des zukünftigen Erfolgs
Wenn Startups sich auf die Entwicklung grundlegender Modelle für eine bestimmte Nische konzentrieren, ist es für sie wichtig zu erkennen, dass neue Meilensteine erforderlich sind, um ihre Relevanz und ihren endgültigen Wert zu bewerten. Wie Ryan Shannon von Radical Ventures kürzlich feststellte:
Im Gegensatz zu einem traditionellen Startup, das lediglich Code schreiben, ein Produkt liefern und auf Kundenfeedback reagieren kann, müssen Foundation Model-Unternehmen mehr Zeit in die Entwicklung und Schulung ihrer Modelle investieren, um ein Produkt in einen Zustand zu bringen, in dem es realisierbar und einsatzbereit ist. Dies kann oft mehrere Jahre, Millionen von Dollar (oder ... Hunderte Millionen Dollar) und mehrere Iterationen dauern, bis die Produkte gut genug sind, damit Unternehmen ihren Kunden Gebühren für die Nutzung berechnen können.
Dies ist eine große Aufgabe und erfordert möglicherweise einen Vertrauensvorschuss von Investoren oder Mitgliedern einer größeren Gemeinschaft. Die anfängliche Investition in Basismodelle ist wesentlich höher als die, die andere Startups benötigen, aber die Back-End-Einführung kann beispiellos sein. Dabei handelt es sich um Transformationstechnologien, wie sie noch nie zuvor gesehen wurden.
Mit der richtigen Menge an Zeit, Geld und Talent werden grundlegende Modelle, ob offen oder geschlossen, die Zukunft nicht nur einläuten, sondern sie in gewissem Maße auch kontrollieren. Die Grundmodelle werden die Art und Weise steuern, wie wir die Informationen konsumieren, die unsere Perspektiven und Entscheidungen prägen und die einen tiefgreifenden Einfluss auf die Art und Weise haben werden, wie die Gesellschaft kommuniziert, lernt, versteht und schafft.
Es steht unglaublich viel auf dem Spiel. Open-Source-Modelle müssen ein Geschäftsmodell finden, das langfristig funktioniert, während geschlossene Modelle zunächst auf ethische Bedenken eingehen und Verhaltenskontrollen und Aufsicht gewährleisten müssen. In dieser sich schnell verändernden und chaotischen Landschaft ist keine perfekte Lösung entstanden, aber die Auseinandersetzung mit den großen Fragen und die Prüfung unserer Verantwortung ist für Innovation von entscheidender Bedeutung. Wenn wir alles Mögliche in Betracht ziehen, sowohl im Guten als auch im Schlechten, werden Schutzmaßnahmen entdeckt und es kommt zu echten Fortschritten.
