DBRX

DBRX
Información general
Tipo de programa gran modelo de lenguaje
Desarrollador Mosaic ML y el equipo de Databricks
Lanzamiento inicial 27 de marzo de 2024
Licencia Databricks Open Model License[1][2]
Enlaces

DBRX es un modelo grande de lenguaje (LLM) desarrollado por Mosaic bajo su empresa matriz Databricks, publicado el 27 de marzo de 2024 bajo la Databricks Open Model License.[3][4][5] Es un modelo transformador de tipo mezcla de expertos, con un total de 132 mil millones de parámetros. Para cada token están activos 36 mil millones de parámetros (4 de 16 expertos).[6] El modelo publicado está disponible tanto en una versión base de modelo fundacional como en una variante ajustada mediante ajuste de instrucciones.[7]

En el momento de su lanzamiento, DBRX superó en varias pruebas comparativas a modelos destacados como Llama 2 de Meta, Mixtral de Mistral AI y Grok-1 de xAI. Estas pruebas abarcaban comprensión del lenguaje, capacidad de programación y matemáticas.[6][8][9]

Fue entrenado durante 2 meses y medio[9] y, según se informó, utilizó 3072 Nvidia H100 conectadas mediante un ancho de banda de 3,2 terabytes por segundo (InfiniBand), con un coste de entrenamiento de 10 millones de dólares estadounidenses.[3]

Referencias

  1. ↑ «Databricks Open Model License». Databricks. 27 de marzo de 2024. Consultado el 6 de agosto de 2025.
  2. ↑ «Databricks Open Model Acceptable Use Policy». Databricks. 27 de marzo de 2024. Consultado el 6 de agosto de 2025.
  3. 1 2 «Introducing DBRX: A New State-of-the-Art Open LLM». Databricks (en inglés estadounidense). 27 de marzo de 2024. Consultado el 28 de marzo de 2024.
  4. ↑ Avidon, Eric (27 de marzo de 2024). «New Databricks open source LLM targets custom development». TechTarget (en inglés). Consultado el 28 de marzo de 2024.
  5. ↑ Ghoshal, Anirban (27 de marzo de 2024). «Databricks' open-source DBRX LLM beats Llama 2, Mixtral, and Grok». InfoWorld (en inglés). Consultado el 28 de marzo de 2024.
  6. 1 2 «A New Open Source LLM, DBRX Claims to be the Most Powerful – Here are the Scores». Gizmochina. 28 de marzo de 2024.
  7. ↑ Wiggers, Kyle (27 de marzo de 2024). «Databricks spent $10M on new DBRX generative AI model». TechCrunch (en inglés estadounidense). Consultado el 29 de marzo de 2024.
  8. ↑ «Data and AI company DataBrix has launched a general-purpose large language model (LLM) DBRX that out..». Maeil Business Newspaper (en inglés). 28 de marzo de 2024. Consultado el 28 de marzo de 2024.
  9. 1 2 Knight, Will (27 de marzo de 2024). «Inside the Creation of the World's Most Powerful Open Source AI Model». Wired (en inglés estadounidense). ISSN 1059-1028. Consultado el 28 de marzo de 2024.

Enlaces externos