allenai/RL4LMs

Voir sur GitHub

A modular RL library to fine-tune language models to human preferences

Étoiles: 2.4k
Forks: 201
Issues débutants ouvertes: 0
Issues indexées: 47

Langage dominant: Python
Licence: Apache-2.0
Dernier push GitHub: 30/3/2023
Dernière indexation: 13/9/2026
Guide de contribution: Aucun guide de contribution
Code de conduite: Aucun code de conduite
Labels débutants: good first issue help wanted
Métriques de merge des PR: Aucune PR mergée en 30 j

Ouverte Toutes

47 issues ouvertes indexées

Any plans for Deepspeed/Accelerate integration? Ouverte

allenai/RL4LMs#4 · 9 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Numbeams Ouverte

beam_search bug

allenai/RL4LMs#5 · 5 commentaires · 0 réactions · 1 personne assignée · Indexée le 13/9/2026
Top-K and Top-p sampling Ouverte

allenai/RL4LMs#7 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
BART supervised Ouverte

allenai/RL4LMs#10 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
OOM on summarization example Ouverte

allenai/RL4LMs#12 · 15 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
100% likely that two function parameters have been merged by accident Ouverte

code enhancement good first issue

allenai/RL4LMs#16 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Implementing self-play Ouverte

allenai/RL4LMs#18 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Larger models like GPT-J and GPT-NeoX-20B Ouverte

allenai/RL4LMs#21 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Just a warning that the package doesn't work with Transformers 4.25.1 Ouverte

allenai/RL4LMs#22 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Off-policy RL algorithms support Ouverte

enhancement help wanted

allenai/RL4LMs#23 · 5 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Problems with models that don't have the parallelize() function Ouverte

allenai/RL4LMs#25 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
passing extra variable to the forward function Ouverte

allenai/RL4LMs#26 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Reproducing IMDB results Ouverte

allenai/RL4LMs#28 · 4 commentaires · 1 réaction · 1 personne assignée · Indexée le 13/9/2026
Mix-Precision training Ouverte

allenai/RL4LMs#29 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Evaluating a specific checkpoint Ouverte

allenai/RL4LMs#32 · 5 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Is it possible to release the code based on Jax Ouverte

allenai/RL4LMs#33 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Problem with BLEURT reward function Ouverte

allenai/RL4LMs#34 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Persistent Variance in IMDB Ouverte

allenai/RL4LMs#37 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Value is not broadcastable with batch_shape+event_shape Ouverte

allenai/RL4LMs#38 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
_pickle.UnpicklingError: pickle data was truncated Ouverte

allenai/RL4LMs#41 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Metric version incompatible Ouverte

allenai/RL4LMs#42 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Bloom Supporting Ouverte

allenai/RL4LMs#44 · 3 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
A question bother me a long time: What is the difference between RL-for-text-generation and delete-0-reward-model-predictions? Ouverte

allenai/RL4LMs#46 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
In the paper, what is the detail setting of supervised learning? Is SL has additional supervised data? Ouverte

allenai/RL4LMs#49 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
[Question] End-to-end example Ouverte

allenai/RL4LMs#51 · 0 commentaires · 3 réactions · 0 personnes assignées · Indexée le 13/9/2026
Error with Accelerate integration + NLPO Ouverte

allenai/RL4LMs#52 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Bug while loading t5 base model Ouverte

allenai/RL4LMs#53 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
How can I inference data with the model after PPO training? Ouverte

allenai/RL4LMs#54 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Using GPT-2 Ouverte

allenai/RL4LMs#55 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
'GPT2Model' object has no attribute 'first_device' Ouverte

allenai/RL4LMs#56 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
model.generate.scores returning two scores Ouverte

allenai/RL4LMs#57 · 0 commentaires · 1 réaction · 0 personnes assignées · Indexée le 13/9/2026
CPU Support Minor Bug Ouverte

allenai/RL4LMs#59 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
is multi-dimensional reward supported? Ouverte

allenai/RL4LMs#60 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Memory issue in metric evals? Ouverte

allenai/RL4LMs#61 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Reproducing existing results on NarrativeQA Ouverte

allenai/RL4LMs#62 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
NLPO Code Error and Query About gymnasium vs gym Usage Ouverte

allenai/RL4LMs#63 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Pip install error with gym and torch Ouverte

allenai/RL4LMs#64 · 3 commentaires · 5 réactions · 0 personnes assignées · Indexée le 13/9/2026
Do you have any plans to apply the recently published Reinforced Self-Training (ReST)? Ouverte

allenai/RL4LMs#65 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Is PPO really better than SFT (in general)? under the condition of same amount of data Ouverte

allenai/RL4LMs#66 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
how to stop env parallel multi-process to debug env.step()? Ouverte

allenai/RL4LMs#68 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Upgrade to torch 2.0 Ouverte

allenai/RL4LMs#69 · 1 commentaire · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Question about the classifier used for IntentAccuracyDailyDialog. Ouverte

allenai/RL4LMs#71 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
An issue happened when I set up Ouverte

allenai/RL4LMs#72 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
Which version of pip should we use when we try to set up the environment? Ouverte

allenai/RL4LMs#73 · 2 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
assert self.name.count("/") == 1 Ouverte

allenai/RL4LMs#75 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
An Issues about RuntimeError Ouverte

allenai/RL4LMs#76 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026
query regarding the reference model Ouverte

allenai/RL4LMs#77 · 0 commentaires · 0 réactions · 0 personnes assignées · Indexée le 13/9/2026

allenai/RL4LMs

Recevez les nouvelles issues par e-mail