Owner

allenai

264 indexierte Repositories · Auf GitHub ansehen

olmocr
Toolkit for linearizing PDFs for LLM datasets/training

Python · 19468 Sterne
OLMo
Modeling, training, eval, and inference code for OLMo

Python · 6677 Sterne
open-instruct
AllenAI's post-training codebase

Python · 3864 Sterne
RL4LMs
A modular RL library to fine-tune language models to human preferences

Python · 2395 Sterne
longformer
Longformer: The Long-Document Transformer

Python · 2207 Sterne
scispacy
A full spaCy pipeline and models for scientific/biomedical documents.

Python · 1990 Sterne
ai2thor
An open-source platform for Visual AI.

C# · 1791 Sterne
scibert
A BERT model for scientific text.

Python · 1715 Sterne
bilm-tf
Tensorflow implementation of contextualized word representations from bi-directional language models

Python · 1609 Sterne
bi-att-flow
Bi-directional Attention Flow (BiDAF) network is a multi-stage hierarchical process that represents context at different levels of granul...

Python · 1546 Sterne
dolma
Data and tools for generating and inspecting OLMo pre-training data.

Python · 1544 Sterne
OLMo-core
PyTorch building blocks for the OLMo ecosystem

Python · 1533 Sterne
objaverse-xl
🪐 Objaverse-XL is a Universe of 10M+ 3D Objects. Contains API Scripts for Downloading and Processing!

Python · 1359 Sterne
s2orc
S2ORC: The Semantic Scholar Open Research Corpus: https://www.aclweb.org/anthology/2020.acl-main.447/

Python · 1087 Sterne
OLMoE
OLMoE: Open Mixture-of-Experts Language Models

Jupyter Notebook · 1079 Sterne
natural-instructions
Expanding natural instructions

Python · 1048 Sterne
mmc4
MultimodalC4 is a multimodal extension of c4 that interleaves millions of images with text.

Python · 954 Sterne
molmo
Code for the Molmo Vision-Language Model

Python · 933 Sterne
XNOR-Net
ImageNet classification using binary Convolutional Neural Networks

Lua · 872 Sterne
papermage
library supporting NLP and CV research on scientific papers

Python · 803 Sterne
244 weitere Repositories liegen auf Auf GitHub ansehen

Offen Alle

Bisher 2516 offene Issues indexiert

Reproducibility of Table 11 (Summarization) Offen

allenai/longformer#198 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
The availability of Longformer-tiny? Offen

allenai/longformer#199 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Help needed with document/sentence embedding using longformer (LongformerForMaskedLM) model. Offen

allenai/longformer#202 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Embedding dimension Offen

allenai/longformer#203 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Correct way of loading pretrained model led-base-16384 Offen

allenai/longformer#205 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Error when converting MBart to Longformer Offen

allenai/longformer#206 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
LongformerForSequenceClassification explanation Offen

allenai/longformer#207 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
What kind/format of text can replace your use of wikitext-103-raw-v1? Offen

allenai/longformer#208 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Cannot build the docker image following the Cheatsheet.txt Offen

allenai/longformer#209 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Difference between this codebase and Huggingface? Offen

allenai/longformer#210 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Initialization for large-model-training is far too slow Offen

allenai/longformer#211 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Longformer for autoregression Offen

allenai/longformer#212 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
is here a simple example for seq2seq? Offen

allenai/longformer#214 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
TypeError: forward() takes from 2 to 7 positional arguments but 8 were given Offen

allenai/longformer#215 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Is it possible to train LongformerEncoderDecoder starting from Japanese T5 checkpoint? Offen

allenai/longformer#217 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Autoregressive and Relative Position Embedding Support Offen

allenai/longformer#219 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Adapting this repo to current version of transformers library Offen

allenai/longformer#220 · 3 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Trying to run longformers on TPU Offen

allenai/longformer#221 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Self-made Longformer doesn’t take more than 512 token Offen

allenai/longformer#222 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Indeterministic results with LongFormer Offen

allenai/longformer#224 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Where is the longformer-loop version? Offen

allenai/longformer#226 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
How to deal with 3-dimensional attention_mask in LongformerSelfAttention Offen

allenai/longformer#227 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Fine-tuning longformer for Question Answering Offen

allenai/longformer#228 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Unable to use longformer in contextualized topic models - CUDA error: device-side assert triggered Offen

allenai/longformer#233 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Results on Hyperpartisian Offen

allenai/longformer#234 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
ERROR: Command errored out with exit status 128: git Offen

allenai/longformer#236 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
CUDA error: device-side assert triggered in multi class text classification Offen

allenai/longformer#237 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
AttributeError: module 'dill._dill' has no attribute 'stack' Offen

allenai/longformer#239 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Can't find a valid checkpoint at tmp Offen

allenai/longformer#240 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
One hot encoding classes Offen

allenai/longformer#241 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
LED Training Time Offen

allenai/longformer#242 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Pretraining longformer for NER on big pdf text Offen

allenai/longformer#243 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Why the TVM impelmentation is memroy efficient Offen

allenai/longformer#244 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Updated BART to Longformer-encoder-decoder (LED) converter Offen

allenai/longformer#245 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Number of tokens per batch mismatch - longformer vs roberta Offen

allenai/longformer#248 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
On cheatsheet Offen

allenai/longformer#251 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Longformer embeddings for calculating similarity score between 2 documents using KNN Offen

allenai/longformer#253 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Where is the global attention? Offen

allenai/longformer#254 · 0 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Reproducibility Problem Offen

allenai/longformer#255 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
may you share link to somebody else latest development for long sentences pls? Offen

allenai/longformer#256 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Can Longformer support adapter transformer? Offen

allenai/longformer#257 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
"requirements.txt" update (transformers==3.0.2) Offen

allenai/longformer#258 · 2 Kommentare · 1 Reaktion · 0 zugewiesene Personen · Indexiert am 13.9.2026
Cosine similarity scores between random words are well above 0.9 Offen

allenai/longformer#259 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
question about pretrain Offen

allenai/longformer#260 · 2 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
position_embeddings error when using custom config Offen

allenai/longformer#261 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Suggestions for Setting Up Longformer in Ubuntu 22.04 and Compile TVM on CUDA 11.7 Offen

allenai/longformer#262 · 0 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Is there a way to put Elmo as a Keras layer and integrate it into a Keras model? Offen

allenai/bilm-tf#73 · 16 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
Have a problem with training Offen

allenai/bilm-tf#91 · 3 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
problem with freezing graph Offen

allenai/bilm-tf#107 · 9 Kommentare · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026
[Question] Do I need to install nvidia-docker to train a new bilm? Offen

allenai/bilm-tf#133 · 1 Kommentar · 0 Reaktionen · 0 zugewiesene Personen · Indexiert am 13.9.2026

allenai

Neue Issues direkt in Ihr Postfach