allenai/RL4LMs

Ver no GitHub

A modular RL library to fine-tune language models to human preferences

Estrelas: 2.4k
Forks: 201
Issues abertas para iniciantes: 0
Issues indexadas: 47

Linguagem predominante: Python
Licença: Apache-2.0
Último push no GitHub: 30/3/2023
Última indexação: 13/9/2026
Guia de contribuição: Sem guia de contribuição
Código de conduta: Sem código de conduta
Labels para iniciantes: good first issue help wanted
Métricas de merge de PRs: Nenhum PR com merge em 30d

Abertas Todas

47 issues abertas indexadas

Any plans for Deepspeed/Accelerate integration? Aberta

allenai/RL4LMs#4 · 9 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Numbeams Aberta

beam_search bug

allenai/RL4LMs#5 · 5 comentários · 0 reações · 1 responsável · Indexada em 13/9/2026
Top-K and Top-p sampling Aberta

allenai/RL4LMs#7 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
BART supervised Aberta

allenai/RL4LMs#10 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
OOM on summarization example Aberta

allenai/RL4LMs#12 · 15 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
100% likely that two function parameters have been merged by accident Aberta

code enhancement good first issue

allenai/RL4LMs#16 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Implementing self-play Aberta

allenai/RL4LMs#18 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Larger models like GPT-J and GPT-NeoX-20B Aberta

allenai/RL4LMs#21 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Just a warning that the package doesn't work with Transformers 4.25.1 Aberta

allenai/RL4LMs#22 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Off-policy RL algorithms support Aberta

enhancement help wanted

allenai/RL4LMs#23 · 5 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Problems with models that don't have the parallelize() function Aberta

allenai/RL4LMs#25 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
passing extra variable to the forward function Aberta

allenai/RL4LMs#26 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Reproducing IMDB results Aberta

allenai/RL4LMs#28 · 4 comentários · 1 reação · 1 responsável · Indexada em 13/9/2026
Mix-Precision training Aberta

allenai/RL4LMs#29 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Evaluating a specific checkpoint Aberta

allenai/RL4LMs#32 · 5 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Is it possible to release the code based on Jax Aberta

allenai/RL4LMs#33 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Problem with BLEURT reward function Aberta

allenai/RL4LMs#34 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Persistent Variance in IMDB Aberta

allenai/RL4LMs#37 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Value is not broadcastable with batch_shape+event_shape Aberta

allenai/RL4LMs#38 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
_pickle.UnpicklingError: pickle data was truncated Aberta

allenai/RL4LMs#41 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Metric version incompatible Aberta

allenai/RL4LMs#42 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Bloom Supporting Aberta

allenai/RL4LMs#44 · 3 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
A question bother me a long time: What is the difference between RL-for-text-generation and delete-0-reward-model-predictions? Aberta

allenai/RL4LMs#46 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
In the paper, what is the detail setting of supervised learning? Is SL has additional supervised data? Aberta

allenai/RL4LMs#49 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
[Question] End-to-end example Aberta

allenai/RL4LMs#51 · 0 comentários · 3 reações · 0 responsáveis · Indexada em 13/9/2026
Error with Accelerate integration + NLPO Aberta

allenai/RL4LMs#52 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Bug while loading t5 base model Aberta

allenai/RL4LMs#53 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
How can I inference data with the model after PPO training? Aberta

allenai/RL4LMs#54 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Using GPT-2 Aberta

allenai/RL4LMs#55 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
'GPT2Model' object has no attribute 'first_device' Aberta

allenai/RL4LMs#56 · 0 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
model.generate.scores returning two scores Aberta

allenai/RL4LMs#57 · 0 comentários · 1 reação · 0 responsáveis · Indexada em 13/9/2026
CPU Support Minor Bug Aberta

allenai/RL4LMs#59 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
is multi-dimensional reward supported? Aberta

allenai/RL4LMs#60 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Memory issue in metric evals? Aberta

allenai/RL4LMs#61 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Reproducing existing results on NarrativeQA Aberta

allenai/RL4LMs#62 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
NLPO Code Error and Query About gymnasium vs gym Usage Aberta

allenai/RL4LMs#63 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Pip install error with gym and torch Aberta

allenai/RL4LMs#64 · 3 comentários · 5 reações · 0 responsáveis · Indexada em 13/9/2026
Do you have any plans to apply the recently published Reinforced Self-Training (ReST)? Aberta

allenai/RL4LMs#65 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Is PPO really better than SFT (in general)? under the condition of same amount of data Aberta

allenai/RL4LMs#66 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
how to stop env parallel multi-process to debug env.step()? Aberta

allenai/RL4LMs#68 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Upgrade to torch 2.0 Aberta

allenai/RL4LMs#69 · 1 comentário · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Question about the classifier used for IntentAccuracyDailyDialog. Aberta

allenai/RL4LMs#71 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
An issue happened when I set up Aberta

allenai/RL4LMs#72 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
Which version of pip should we use when we try to set up the environment? Aberta

allenai/RL4LMs#73 · 2 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
assert self.name.count("/") == 1 Aberta

allenai/RL4LMs#75 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
An Issues about RuntimeError Aberta

allenai/RL4LMs#76 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026
query regarding the reference model Aberta

allenai/RL4LMs#77 · 0 comentários · 0 reações · 0 responsáveis · Indexada em 13/9/2026

allenai/RL4LMs

Receba novas issues na sua caixa de entrada