AdityaNG / AdityaNG/kan-gpt

Kolmogorov-Arnold Transformer

Abierto
#24 0 comentarios 0 reacciones 0 asignados Ver en GitHub
enhancement question
Lenguaje dominante
Python
Estrellas
726
Forks
54
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

KAN was strong but faced scalability issues. We tackled this with 3 simple tricks. By combining KAN with Transformers, we've built a much stronger and more scalable model. 💪

📄 Paper: https://arxiv.org/abs/2409.10594
💻 Code: https://github.com/Adamdad/kat

Guía de contribución

Abrir la guía de contribución

Evaluación

Este issue todavía no se ha evaluado.

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.