python / python/typing

Conformance tests: Align automated and manual scoring

Ouverte
#1,692 1 commentaire 2 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

topic: other
Langage dominant
Python
Étoiles
1.8k
Forks
302
Merge moyen
23 h
PR mergées (30 j)
8

Description

In #1678 I added an automated tool for scoring the conformance test suite, and #1682 and #1683 added some features to support edge cases.

Now I am working on going through the remaining files where the automated conformance judgment on a file differs from the manual one (open PRs: #1684, #1685, #1687, #1688, #1689, #1690, #1691).

I'll use this issue to track the remaining discrepancies (from conformance/src/unexpected_fails.py):

  • mypy/dataclasses_usage.toml: Pass vs. Fail (#1684)
  • mypy/directives_version_platform.toml: Pass vs. Fail (#1685)
  • mypy/namedtuples_define_functional.toml: Pass vs. Fail
  • mypy/overloads_basic.toml: Pass vs. Fail (#1687)
  • mypy/specialtypes_never.toml: Pass vs. Fail (#1688)
  • mypy/typeddicts_alt_syntax.toml: Pass vs. Fail (#1689)
  • mypy/typeddicts_type_consistency.toml: Pass vs. Fail (#1690)
  • pyre/directives_reveal_type.toml: Unsupported vs. Pass
  • pyre/namedtuples_define_functional.toml: Pass vs. Fail
  • pyright/classes_override.toml: Pass vs. Fail (#1691)
  • pyright/dataclasses_frozen.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_slots.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_transform_field.toml: Pass vs. Fail (#1699)
  • pyright/dataclasses_transform_func.toml: Pass vs. Fail (#1699)
  • pyright/generics_defaults.toml: Pass vs. Fail (#1700)
  • pyright/literals_literalstring.toml: Pass vs. Fail (#1701)
  • pyright/overloads_basic.toml: Pass vs. Fail (#1687)
  • pyright/protocols_variance.toml: Pass vs. Fail (#1702)
  • pyright/specialtypes_never.toml: Pass vs. Fail (#1688)
  • pyright/tuples_unpacked.toml: Pass vs. Fail (#1703)
  • pytype/dataclasses_usage.toml: Pass vs. Fail (#1684)
  • pytype/directives_assert_type.toml: Pass vs. Fail (#1706)
  • pytype/directives_version_platform.toml: Pass vs. Fail (#1685)
  • pytype/generics_scoping.toml: Pass vs. Fail (#1704)
  • pytype/typeddicts_inheritance.toml: Pass vs. Fail (#1705)

Any help is appreciated.

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Piste de recherche

Commencez par conformance/src/unexpected_fails.py et examinez les divergences restantes qui ne sont pas encore cochées pour mypy/namedtuples_define_functional.toml, pyre/directives_reveal_type.toml et pyre/namedtuples_define_functional.toml. Comparez chaque résultat automatisé à son évaluation manuelle et réconciliez les cas restants. C'est terminé lorsque les trois divergences listées sont résolues et que le score de conformance correspond aux résultats manuels.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
python
Domaine
testing-qa
Type d'issue
Bug
Difficulté
4/5
Temps estimé
3-5 jours
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.