Volcan Engine-Pr?sident Tan Dai

Unternehmen müssen gro?e Modelle gut implementieren, stehen aber vor drei zentralen Herausforderungen: Modelleffekt, Inferenzkosten und Schwierigkeit der Implementierung: Sie müssen über gute grundlegende gro?e Modelle als Unterstützung zur L?sung komplexer Probleme verfügen Darüber hinaus muss es kostengünstige Inferenzdienste geben, um die breite Nutzung gro?er Modelle zu erm?glichen, und es werden mehr Tools, Plattformen und Anwendungen ben?tigt, um Unternehmen bei der Umsetzung von Szenarien zu unterstützen.

– Tan Dai, Pr?sident von Volcano Engine Implementierung. Tan Dai wies darauf hin, dass ein gutes Modell nur durch ausgiebigen Gebrauch poliert werden kann. Derzeit verarbeitet das Doubao-Modell 120 Milliarden Text-Tokens und generiert 30 Millionen Bilder pro Tag.

Um Unternehmen bei der Implementierung gro? angelegter Modellszenarien zu unterstützen, wird das unabh?ngig entwickelte Doubao-Gro?modell von ByteDance offiziell über die Volcano Engine der Au?enwelt zur Verfügung gestellt. Unternehmen k?nnen entsprechend ihren eigenen Gesch?ftsszenarioanforderungen flexibel ausw?hlen und schnell implementieren:

Doubao ist ein universelles Modell-Profi:

ByteDance selbst entwickelte LLM-Modell-Profiversion, unterstützt 128.000 Langtexte, die gesamte Serie kann fein abgestimmt werden, verfügt über st?rkere umfassende Funktionen wie Verst?ndnis, Generierung, Logik usw. und ist reich an Anpassungsm?glichkeiten für Fragen und Antworten, Zusammenfassung, Erstellung, Klassifizierung usw. Szenario;

Dubao Universal Model Lite:

ByteDance selbst entwickelte LLM-Modell-Lightweight-Version, die niedrigere Token-Kosten und geringere Latenz als die professionelle Version bietet Version, die Unternehmen eine flexible und wirtschaftliche Modellauswahl bietet;

Doubao·Rollenspielmodell:

Personalisierte Charaktererstellungsfunktionen, st?rkere Kontexterkennung und Handlungsf?rderungsfunktionen, die flexible Rollenspielanforderungen erfüllen; Sprachsynthesemodell:

• Bietet natürliche und lebendige Sprachsynthesef?higkeit, ist gut darin, eine Vielzahl von Emotionen auszudrücken und eine Vielzahl von Szenen darzustellen; Doubao·Sprachreplikmodell:
• Sie k?nnen eine 1:1-Klonung der Stimme erreichen Stellen Sie in 5 Sekunden die ?hnlichkeit und Natürlichkeit der Klangfarbe wieder her und unterstützen Sie die sprachübergreifende übertragung; Sprachen; Doubao·Vincent-Diagrammmodell:
• Genaueres Textverst?ndnis, genauere Bild- und Textübereinstimmung, sch?nere Bildeffekte, gut bei der Erstellung chinesischer Kulturelemente; Doubao·Funktionsaufrufmodell:
• Bieten Sie genauere Funktionen zur Funktionsidentifizierung und Parameterextraktion. Geeignet für komplexe Werkzeugaufrufszenarien. Doubao·Vektorisierungsmodell:
• Konzentrieren Sie sich auf die Verwendungsszenarien des Vektorabrufs, stellen Sie Kernverst?ndnisfunktionen für die LLM-Wissensdatenbank bereit und unterstützen Sie sie mehrere Sprachen. Tan Dai gab bekannt, dass bereits letztes Jahr das Doubao-Modell (ursprünglicher Name: Skylark) innerhalb von ByteDance eingeführt wurde und es auch eines der ersten gro?en Modelle war, das sicher über den gro?en Modelldienst registriert wurde. Mehr als 50 Unternehmen innerhalb von ByteDance haben das Doubao-Modell ausgiebig für KI-Innovationen genutzt, darunter Produkte mit Hunderten Millionen DAU wie Douyin und Toutiao. Die Doubao APP, die auf dem gleichnamigen gro?en Modell von Doubao basiert, steht hinsichtlich der Downloads im Apple APP Store und in den wichtigsten Android-Anwendungsm?rkten an erster Stelle unter den AIGC-Anwendungen*.
• *Datenquelle: QuestMobile
• Zhu Jun, Vizepr?sident für ByteDance-Produkte und -Strategie Zhu Jun, Vizepr?sident für ByteDance-Produkte und -Strategien, stellte die Produkte von ByteDance vor, um native KI-Anwendungen auf Basis des Doubao zu erstellen gro?e Modellidee. Er sagte, dass sich die Technologie schnell weiterentwickelt, die Kernbedürfnisse der Benutzer sich jedoch nicht ge?ndert haben, wie z. B. die Notwendigkeit, Informationen effizient zu erhalten, die Notwendigkeit, die Arbeitseffizienz zu verbessern, das Bedürfnis nach Selbstdarstellung, das Bedürfnis nach sozialer Unterhaltung usw. ByteDance hat viele Studien und Erkundungen durchgeführt, in der Hoffnung, ein geeignetes Anwendungsformular für gro?e Modelle zu finden, das Benutzern in natürlicher interaktiver Form dient und in das Leben und die Arbeit von mehr Menschen eindringt.
• Doubao APP ist eine gro? angelegte Modellanwendung, auf die sich ByteDance konzentriert. Laut Zhu Jun haben die monatlich aktiven Benutzer der Doubao-Plattform 26 Millionen erreicht und es wurden mehr als 8 Millionen Agenten erstellt.

  Doubao Big Model betreut nicht nur die interne Arbeit von Byte, sondern arbeitet auch gemeinsam mit vielen Unternehmenskunden von Volcano Engine. Tan Dai ist davon überzeugt, dass Unternehmen Modelle mit unterschiedlichen Merkmalen in unterschiedlichen Gesch?ftsszenarien ben?tigen, um die besten Ergebnisse und die beste Kostenleistung zu erzielen. Zu diesem Zweck bietet Doubao Big Model eine multimodale Modellfamilie, die Unternehmen je nach den Anforderungen ihres eigenen Gesch?ftsszenarios flexibel ausw?hlen k?nnen, um einen positiven Zyklus der Modellnutzung und Kostenkontrolle zu erreichen.

  02.

  Ein gutes Modell ist für jeden erschwinglich

  Tan Dai glaubt, dass Kostensenkung ein Schlüsselfaktor ist, um gro?e Modelle in die ?Wertsch?pfungsphase“ zu bringen. Der Preis von Doubaos Hauptmodell auf dem Unternehmensmarkt betr?gt nur 0,0008 Yuan/tausend Token. Es kann mehr als 1.500 chinesische Schriftzeichen zu 0,8 Cent verarbeiten, was 99,3 % günstiger ist als die Branche.

  Am Beispiel der Pro-32k-Version des Doubao-Universalmodells betr?gt der Modellinferenz-Eingabepreis nur 0,0008 Yuan/tausend Token. Der Preis für Modelle mit den gleichen Spezifikationen auf dem Markt betr?gt im Allgemeinen 0,12 Yuan/tausend Token, was dem 150-fachen Preis des Sitzsackmodells entspricht. Der Preis gro?er Modelle ist in die ?Centi-?ra“ eingetreten.

  Tan Dai sagte, dass der ?Rollerpreis“ gro?er Modelle Unternehmen dabei helfen wird, Gesch?ftsinnovationen zu geringeren Kosten zu beschleunigen.

  03.

  Ark 2.0-Upgrade

  F?rderung der Wertsch?pfung gro?er Modelle

  Letztes Jahr ver?ffentlichte Volcano Engine die One-Stop-Serviceplattform für gro?e Modelle Volcano Ark, in der Hoffnung, Unternehmen durch das Konzept zu unterstützen Modell als Service Wenden Sie verschiedene Modelle in einer effizienten und sicheren Umgebung an. In diesem Jahr hat Volcano Engine die Ark-Plattform umfassend aktualisiert. Das aktualisierte Volcano Ark 2.0 wird Modelleffekte, Kern-Plug-Ins, Systemleistung und Plattformerfahrung erheblich verbessern und Unternehmen dabei helfen, die Wertsch?pfung gro?er Modelle zu f?rdern.

  In Bezug auf Plug-ins und Toolketten hat Ark 2.0 das Internet-Plug-in aktualisiert und bietet dieselben Suchfunktionen wie Toutiao und Douyin, verbindet riesige, qualitativ hochwertige Daten in Echtzeit und nutzt gleichzeitig multimodale Interaktion Methoden wie Text, Bilder und Sprache sowie branchenführende Absichtserkennungsfunktionen, die die Informationserfassungsfunktionen des Modells erheblich verbessern, ein aktualisiertes Inhalts-Plug-in, das Toutiao und Douyin mit umfangreichen Inhalten aus derselben Quelle versorgt und mehrere unterstützt. Modale Interaktion, die einen vertikalen Abruf von Inhaltsinformationen basierend auf der Absicht und eine st?rkere Aktualit?t des Abrufs von Inhalten erm?glicht, um gro?en Modellen dabei zu helfen, das Wissensbasis-Plug-in zu aktualisieren, um zig Milliarden hochpr?zise Informationen auf Millisekundenebene bereitzustellen. Leistungsabruf, Aktualisierungen des Streaming-Wissensdatenbankindex der zweiten Ebene und eingebettete Beanbao-Vektorisierungsmodelle zur Verbesserung der Relevanz von Suchanfragen, Geschlecht und Genauigkeit.

  Zus?tzlich zu den oben genannten Kern-Plug-in-Upgrades hat Volcano Ark 2.0 auch die Systemtragf?higkeit, die Sicherheitsschutzfunktionen und die Algorithmus-Servicefunktionen umfassend verbessert. In Bezug auf die Systemtragf?higkeit bietet es reichlich GPU-Rechenressourcen und eine enorme Elastizit?t bei der Erweiterung und Reduzierung der Kilokartenkapazit?t in wenigen Minuten, wodurch Gesch?ftsstabilit?t und Kostenkontrolle im Hinblick auf den Sicherheitsschutz gew?hrleistet werden. Durch eine Sicherheitssandbox wird eine vertrauenswürdige Ausführungsumgebung aufgebaut Eine mehrdimensionale Sicherheitsarchitektur gew?hrleistet die Datensicherheit. Darüber hinaus bietet Volcano Engine professionelle Algorithmen-Teamdienste, um Kunden dabei zu helfen, einzigartigen Datenwert zu erschlie?en und die einfache Implementierung gro?er Unternehmensmodellanwendungen zu erm?glichen.

  Button-Produktmanager Pan Yuyang

  Neben guten Modelleffekten, praktischen Plug-Ins und starker Systemleistung müssen wir auch eine einfache und benutzerfreundliche Entwicklungsplattform bereitstellen, damit jeder ein werden kann Entwickler von KI-Anwendungen. Coze-Produktmanager Pan Yuyang stellte vor, dass Coze als eine von ByteDance eingeführte KI-Anwendungsentwicklungsplattform der neuen Generation die Vorteile von niedrigem Schwellenwert, Personalisierung, Echtzeit, Multimodalit?t usw. bietet und umfangreiche KI-Ressourcen und umfangreiche Ver?ffentlichungskan?le integriert . Ein benutzerdefinierter API-Service mit nur einem Klick, um die letzte Meile von gro?en Modellen bis hin zu Benutzerszenarien zu bew?ltigen.

  Volcano Engine hat offiziell die professionelle Version von Buttons ver?ffentlicht. Basierend auf der F?higkeit von Kouzi, intelligente Agenten flexibel zu orchestrieren, bietet die Kouzi Professional Edition au?erdem SLA auf Unternehmensebene und eine Vielzahl erweiterter Funktionen, wodurch KI-Anwendungen einfacher zu implementieren sind und Unternehmen sich st?rker auf die F?rderung des Gesch?ftswachstums durch Agenteninnovation konzentrieren k?nnen.

  Tan Dai sagte, dass Volcano Engine sich zum Ziel gesetzt hat, die offenste und führende Cloud-Service-Plattform im KI-Zeitalter zu werden. Das neu aktualisierte Volcano Ark 2.0 wird durch st?rkere Leistung, bessere Plug-Ins, bessere Dienste sowie sichere und vertrauenswürdige L?sungen bei der Implementierung gro? angelegter Modellanwendungen helfen.

  04.

  In der Praxis weit verbreitet

  Fruchtbare Ergebnisse in mehreren Branchen

  Das Sitzsackmodell und Volcano Ark 2.0 werden derzeit in den Bereichen Finanzen, Automobile, Smart Terminals, E-Commerce-Einzelhandel und Bildung eingesetzt und wissenschaftliche Forschung usw. Die Industriepraxis wird umgesetzt. Auch Unternehmen wie China Merchants Bank, Haidilao Hotpot, Super Orangutan, Ctrip Travel, Feichangzhun und Liepin haben intelligente K?rper auf Kn?pfen gebaut. Berühmte Universit?ten wie die Fudan-Universit?t und die Zhejiang-Universit?t haben ebenfalls ?KI-Lehrassistenten“ für Kurse und Experimente gebaut.

  Gao Menschen und intelligente Datenassistenten. Gao Xulei, Direktor des Digital Finance Development Office der China Merchants Bank, sagte, dass das gro?e Modell eine Transformation und Modernisierung der gesamten Gesch?ftskette der Bank mit sich bringen werde. In Zusammenarbeit mit Volcano Engine werden die beiden Parteien gemeinsam Anwendungsszenarien für gro?e Modelle und eine leistungsstarke Infrastruktur aufbauen, bestehende Systeme und Produkte transformieren und eine gro?e Anzahl KI-zentrierter intelligenter Agentenanwendungen generieren.

  Li Qijie, Vizepr?sident und Chief Digital Intelligence Officer der Mengniu Group

  Li Qijie, Vizepr?sident und Chief Digital Officer der Mengniu Group, stellte die Daten der Mengniu Group aus drei Aspekten vor: der Entwicklung der Produktionswerkzeuge, der Entwicklung von Produktionsmethoden und die Entwicklung organisatorischer Methoden. Die Mengniu Group arbeitet mit Volcano Engine zusammen, um die Technologiebasis zu konsolidieren und eine intelligente Matrix aus KI-Ern?hrungsexperten, KI-Kinderm?dchen, KI-Datenanalysten, Produktinnovationsassistenten, Hotspot-Kreativassistenten usw. aufzubauen, um das Front-End-Kundenerlebnis zu verbessern und den Rücken zu unterstützen -Endoperationen.

  Ver?ffentlichung der Smart Terminal Large Model Alliance

  Bei dem Treffen gaben Volcano Engine und OPPO, vivo, Honor, Xiaomi, Samsung und ASUS die Gründung der Smart Terminal Large Model Alliance bekannt. Anwendungen wie OPPO Xiaobu Assistant, YOYO Assistant von Honor MagicBook, Xiaomis ?Xiao Ai Classmate“ und Douding AI Assistant von ASUS-Laptops wurden alle mit dem gro?en Modelldienst der Volcano Engine verbunden.

  Automobile Large Model Ecological Alliance ver?ffentlicht

  Gleichzeitig hat Volcano Engine zusammen mit der China Electric Vehicles Association von 100 und mehr als 20 Herstellern wie Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus und Zhiji Automobile gab die Gründung der Automobile Alliance bekannt. Die Model Ecological Alliance hat sich der Erforschung neuer Formen der Mensch-Fahrzeug-Interaktion und der Verbesserung des neuen KI-Erlebnisses in allen Automobilszenarien verschrieben.

  Die beiden gro?en Allianzunternehmen OPPO und Jietu Motors teilten jeweils auch ihre eigenen gro?en Modellpraktiken:
  Direktor der intelligenten Assistentenabteilung von OPPO, Xiaobu, stellvertretender Chefarchitekt Wan Yulong

  Direktor der intelligenten Assistentenabteilung von OPPO, Wan Yulong, Chefarchitekt von Xiaobu Assistant, teilte die gro? angelegte Modellanwendungspraxis von OPPO AI-Mobiltelefonen mit. Er sagte, dass Xiaobu Assistant derzeit 350 Millionen Endger?te abdeckt und mehr als 150 Millionen aktive Benutzer pro Monat hat. Auf Volcano Ark hat OPPO mithilfe von Absichtserkennungsmodellen, Netzwerkzusammenfassungsmodellen, personalisierten Charaktermodellen und Sitzsackmodellen intelligente Agenten wie ?Universal Question and Answer“, ?Smart Girl“ und ?Interviewer“ entwickelt und so den Endbenutzern ein brandneues KI-Erlebnis geboten. Liu Hang, Leiter der Digitalisierung bei Jietu Automobile Vertriebseffizienz und -f?higkeiten. Gemeinsam mit Volcano Engine haben die beiden Parteien gemeinsam Kundenservice-Szenarien entwickelt, die nicht nur Arbeitskr?fte einsparen, sondern auch dem Kundenservice-Personal helfen, schnell Informationen zu erhalten und Kunden zu bedienen. In Zukunft hofft Jietu Motors auch, durch gro?e Modelle weitere intelligente Verbesserungen in den Bereichen Cockpit, Entscheidungsfindung und Marketing zu realisieren.

  05.

  Mehrere KI-Anwendungen ver?ffentlicht

  Schnell implementiert und sofort einsatzbereit

  Neben der gro?en Modelldienstplattform sind auch KI-Anwendungen eine Schlüsselkomponente der Volcano Engine Full-Stack-KI-Dienst.

  Letztes Jahr schlug Volcano Engine ein neues Modell für die Aufrüstung der digitalen Intelligenz von Unternehmen vor – das Datenschwungrad. Dieses Modell nutzt den Datenverbrauch als zentrale treibende Kraft, integriert den Unternehmensdatenfluss vollst?ndig in den Gesch?ftsfluss und realisiert den Schwungradeffekt von Datenbest?nden und Gesch?ftsanwendungen . Um den Datenverbrauch im Unternehmen umfassender und komfortabler zu gestalten, hat Volcano Engine Intelligent Data Insight DataWind offiziell den KI-Assistenten ChatBI ver?ffentlicht. Benutzer k?nnen Indikatoren für die Diagrammerstellung, Datenabfrage und detaillierte Datenanalyse generieren Es unterstützt die IM-Interaktion, kann auf mehreren Terminals angewendet werden und führt jederzeit und überall eine Self-Service-Analyse durch. Dadurch wird der Datenverbrauchsschwellenwert erheblich gesenkt, die Lese- und Datennutzungseffizienz verbessert und die Leistung für den beschleunigten Betrieb des Datenschwungrads bereitgestellt.

  Für Marketingszenarien wurde Volcano Engine auf Intelligent Creation Cloud 2.0 aktualisiert und ist damit eine Komplettl?sung für das Content-Marketing für Unternehmen, die von der Content-Erstellung über die Matrixverteilung und Werbung bis hin zu Datenerkenntnissen reicht und nicht nur multimodale Verst?ndnis- und Generierungsfunktionen bietet , was dazu beitrug, die Effizienz der Videoerstellung um das 25-fache zu steigern, und au?erdem Douyin-Themen, POI, Miniprogramme und andere Marketingtools einführte, wodurch die Pr?senz der Shop-Seiten um 600 % gesteigert wurde. Derzeit haben mehr als 3.000 Unternehmen mit dem AIGC-Videomarketing-Wachstum auf Volcano Engine begonnen.

  Für Vertriebsszenarien hat Volcano Engine Sales Copilot ver?ffentlicht, einen Vertriebs-KI-Assistenten, der Kundenbedürfnisse effizient verfolgen und den Vertrieb jederzeit bei der Beantwortung komplexer Produktfragen unterstützen kann. Darüber hinaus kann es durch Rollenspiele verschiedene Arten von Kundenübungen simulieren und hervorragende Sprechf?higkeiten vermitteln, um die Qualit?t der Vertriebskommunikation zu verbessern.

  Volcano Engine hat sich stets dem Aufbau eines offenen und gemeinsamen ?kologischen Konzepts verschrieben. Seit der Ver?ffentlichung von Wanwan Plan im Jahr 2021 hat es über 100 SaaS-Unternehmen zu Gesch?ftswachstum verholfen und fast 10.000 Kundenvertr?ge abgeschlossen. Doubao Enterprise Service Alliance ist ein spezieller Plan von Wanyou Plan für die Implementierung gro?er Modelle. Die Wanyou Plan Doubao Enterprise Service Alliance wird ein Paket von Supportpl?nen bereitstellen, um SaaS-Unternehmen bei KI-Upgrades zu unterstützen und Industriekunden mehr sofort einsatzbereite KI-Anwendungen bereitzustellen.

  06.

  Die KI-Infrastruktur wurde auf eine neue Dimension gebracht

  Zuverl?ssige Garantie der Cloud-Computing-Leistung

  Im Zeitalter gro?er Modelle sind die Komplexit?t des Clustermanagements, die Netzwerkleistung und die Stabilit?t zentrale Herausforderungen für Cloud-Infrastruktur. Um die oben genannten Herausforderungen zu bew?ltigen, bietet Volcano Engine eine Reihe branchenführender L?sungen rund um den Aufbau gro?er Cluster, das Management, die Leistungsoptimierung und die Stabilit?tsgarantie auf der Grundlage der Ressourcenvorteile und internen Praktiken interner und externer gemeinsamer Pools.

  NVIDIA Vice President of Solutions and Engineering Lai Junjie

  Bei dem Treffen ver?ffentlichte Volcano Engine offiziell veOmniverse, das Unternehmen und Entwicklern eine neue Cloud-Entwicklungsplattform auf Basis von NVIDIA Omniverse bietet, um Unternehmen und Entwickler in der vernetzten virtuellen Welt zu unterstützen In der Welt k?nnen Sie Arbeitsabl?ufe effizient entwerfen und zusammenarbeiten, intelligente und realistische virtuelle Welten erkunden und erstellen.

  Zus?tzlich zur Bereitstellung einer hochstabilen und leistungsstarken Cloud-Infrastruktur für Kunden hat Volcano Engine als Reaktion auf lokale Bereitstellungsanforderungen auch eine neue Hybrid-Cloud-Version von veStack Intelligent Computing ver?ffentlicht, die über Wanka-Cluster-Netzwerke und 3,2T-Hochleistung verfügt Verlustfrei Der extrem gro?e Vorteil des Netzwerks; die ultimative Leistung, die durch End-to-End-Engineering unterstützt wird und eine Trainingsbeschleunigungsrate von 97,78 % sowie eine Fehlererkennung und Selbstheilung auf Minutenebene erreichen kann; Passt sich an mehr als zehn GPU-Typen an und unterstützt g?ngige inl?ndische GPU-Produkte.

  Neben der intensiven Rechenleistung der GPU muss die gesamte KI-Anwendung auch weiterhin die Kosten senken und die Effizienz der vorhandenen CPU-Last steigern, um sicherzustellen, dass das Gesch?ft problemlos abgewickelt werden kann und Innovationen beschleunigt werden. Auf den vier Ebenen Computing, Storage, Netzwerk sowie Betrieb und Wartung unterstützt Volcano Engine vollst?ndig den stabilen Betrieb der Cloud-Gesch?fte der Kunden.

  Ende

  Von der technologischen Innovation bis zur kommerziellen Umsetzung haben gro?e Modelle in verschiedenen Branchen starke Impulse für die KI-Transformation gegeben. Die Volcano Engine basiert auf der praktischen Erfahrung von ByteDance im Bereich der gro?en Modelle. Sie macht gro?e Modelle für jedermann erschwinglich und begleitet Kunden durch ihre Umfangreiche Implementierungserfahrung und Algorithmendienste in verschiedenen Branchen. Wachsen Sie zusammen. Auch in Zukunft werden die Full-Stack-KI-Dienste von Volcano Engine Unternehmen bei der Umsetzung der KI-Transformation unterstützen und das Gesch?ftswachstumspotenzial f?rdern.