4 个 Python 项目管理与构建工具,建议收藏(Python项目管理)

文章来源:网络

python 历时这么久以来至今还未有一个事实上标准的项目管理及构建工具,以至于造成 Python 项目的结构与构建方式五花八门。这或许是体现了 Python 的自由意志。

不像 Java 在经历了最初的手工构建,到半自动化的 Ant, 再到 Maven 基本就是事实上的标准了。其间 Maven 还接受了其他的 Gradle(Android 项目主推), SBT(主要是 Scala 项目), Ant Ivy, Buildr 等的挑战,但都很难撼动 Maven 的江湖地位,而且其他的差不多遵循了 Maven 的目录布局。

回到 Python,产生过 pip, pipenv, conda 那样的包管理工具,但对项目的目录布局没有任何约定。

关于构建很多还是延续了传统的 Makefile 的方式,再就是加上 setup.py 和 build.py 用程序代码来进行安装与构建。关于项目目录布局,有做成项目模板的,然后做成工具来应用项目模板。

下面大概浏览一下四个工具的使用

  1. CookieCutter

  2. PyScaffold

  3. PyBuilder

  4. Poetry

CookieCutter 一个经典的 Python 项目目录结构

$ pip install cookiecutter
$ cookiecutter gh:audreyr/cookiecutter-pypackage
# 以 github 上的 audreyr/cookiecutter-pypackage 为模板,再回答一堆的问题生成一个 Python 项目
......
project_name [Python Boilerplate]: sample
......

最后由 cookiecutter 生成的项目模板是下面的样子:

$ tree sample
sample
├── AUTHORS.rst
├── CONTRIBUTING.rst
├── HISTORY.rst
├── LICENSE
├── MANIFEST.in
├── Makefile
├── README.rst
├── docs
│ ├── Makefile
│ ├── authors.rst
│ ├── conf.py
│ ├── contributing.rst
│ ├── history.rst
│ ├── index.rst
│ ├── installation.rst
│ ├── make.bat
│ ├── readme.rst
│ └── usage.rst
├── requirements_dev.txt
├── sample
│ ├── __init__.py
│ ├── cli.py
│ └── sample.py
├── setup.cfg
├── setup.py
├── tests
│ ├── __init__.py
│ └── test_sample.py
└── tox.ini

3 directories, 26 files

这大概是当前比较流行的目录结构的主体框架,主要元素是:

$ tree sample
sample
├── Makefile
├── README.rst
├── docs
│ └── index.rst
├── requirements.txt
├── sample
│ ├── __init__.py
│ └── sample.py
├── setup.cfg
├── setup.py
└── tests
├── __init__.py
└── test_sample.py

项目 sample 目录中重复 sample 目录中放置 Python 源文件,tests目录中是测试文件,再加一个docs目录放文档,README.rst, 其他的用于构建的 setup, setup.cfg 和 Makefile 文件。

这其实是一个很经典的 Python 项目结构,接下来的构建就用 make命令了,输入make会看到定义在 Makefile 文件中的指令

$ make
clean remove all build, test, coverage and Python artifacts
clean-build remove build artifacts
clean-pyc remove Python file artifacts
clean-test remove test and coverage artifacts
lint check style
test run tests quickly with the default Python
test-all run tests on every Python version with tox
coverage check code coverage quickly with the default Python
docs generate Sphinx HTML documentation, including API docs
servedocs compile the docs watching for changes
release package and upload a release
dist builds source and wheel package
install install the package to the active Python\'s site-packages

为使用上面的构建过程,需要安装相应的包,如 tox,wheel,coverage,sphinx,flake8, 它们都可以通过pip来安装。之后就可以make test,make coverage,make docsmake dist等。其中make docs可以生成一个很漂亮的 Web 文档。

PyScaffold 创建一个项目

PyScaffold 顾名思义,它是一个用来创建 Python 项目脚手架的工具,安装和使用:

$ pip install pyscaffold
$ putup sample

这样创建了一个 Python 项目,目录结构与前面 cookiecutter 所选的模板差不多,只不过它把源文件放在了 src目录,而非sample目录。

$ tree sample
sample
├── AUTHORS.rst
├── CHANGELOG.rst
├── CONTRIBUTING.rst
├── LICENSE.txt
├── README.rst
├── docs
│ ├── Makefile
│ ├── _static
│ ├── authors.rst
│ ├── changelog.rst
│ ├── conf.py
│ ├── contributing.rst
│ ├── index.rst
│ ├── license.rst
│ ├── readme.rst
│ └── requirements.txt
├── pyproject.toml
├── setup.cfg
├── setup.py
├── src
│ └── sample
│ ├── __init__.py
│ └── skeleton.py
├── tests
│ ├── conftest.py
│ └── test_skeleton.py
└── tox.ini

整个项目的构建就要用 tox这个工具了。tox是一个自动化测试和构建工具,它在构建过程中可创建 Python 虚拟环境,这让测试和构建能有一个干净的环境。

tox -av能显示出定义在tox.ini中所有的任务:

$ tox -av
default environments:
default -> Invoke pytest to run automated tests

additional environments:
build -> Build the package in isolation according to PEP517, see https://github.com/pypa/build
clean -> Remove old distribution files and temporary build artifacts (./build and ./dist)
docs -> Invoke sphinx-build to build the docs
doctests -> Invoke sphinx-build to run doctests
linkcheck -> Check for broken links in the documentation
publish -> Publish the package you have been developing to a package index server. By default, it uses testpypi. If you really want to publish your package to be publicly accessible in PyPI, use the `-- --repository pypi` option.

要执行哪个命令便用 tox -e build,tox -e docs

在我体验 tox 命令过程中,每一步好像都比较慢,应该是创建虚拟机要花些时间。

PyBuilder

最好再看另一个构建工具 PyBuilder, 它所创建出的目录结构很接近于 Maven, 下面来瞧瞧

$pip install pybuilder
$mkdir sample && cd sample # 项目目录需手工创建
$pyb --start-project # 回答一些问题后创建所需的目录和文件

完后看下它的目录结构:

$ tree sample
.
├── build.py
├── docs
├── pyproject.toml
├── setup.py
└── src
├── main
│ ├── python
│ └── scripts
└── unittest
└── python

构建过程仍然是用 pyb命令,可用pyb -h查看帮助,pyb -t列出所有的任务, PyBuilder 的任务是以插件的方式加入的,插件配置在build.py文件中。

$ pyb -t sample
Tasks found for project \"sample\":
analyze - Execute analysis plugins.
depends on tasks: prepare run_unit_tests
clean - Cleans the generated output.
compile_sources - Compiles source files that need compilation.
depends on tasks: prepare
coverage - <no description available>
depends on tasks: verify
install - Installs the published project.
depends on tasks: package publish(optional)
package - Packages the application. Package a python application.
depends on tasks: compile_sources run_unit_tests(optional)
prepare - Prepares the project for building. Creates target VEnvs
print_module_path - Print the module path.
print_scripts_path - Print the script path.
publish - Publishes the project.
depends on tasks: package verify(optional) coverage(optional)
run_integration_tests - Runs integration tests on the packaged application.
depends on tasks: package
run_unit_tests - Runs all unit tests. Runs unit tests based on Python\'s unittest module
depends on tasks: compile_sources
upload - Upload a project to PyPi.
verify - Verifies the project and possibly integration tests.
depends on tasks: run_integration_tests(optional)
$ pyb run_unit_tests sample

PyBuilder 也是在构建或测试之前创建虚拟环境, 从 0.12.9 版开始可通过参数 --no-venvs跳过创建虚拟环境这一步。使用了--no-venvs的话 Python 代码将会在运行pyb的当前 Python 环境中执行,所需的依赖将要手工安装。

项目的依赖也要定义在 build.py文件中

@init
def set_properties(project):
project.depends_on(\'boto3\', \'>=1.18.52\')
project.build_depends_on(\'mock\')

随后在执行 pyb创建虚拟环境时就会安装上面的依赖,并在其中运行测试与构建。

Poetry

最后一个 Poetry, 感觉这是一个更为成熟,项目活跃度也更高的 Python 构建,它有着更强大的信赖管理功能,用 poetry add boto3就能添加依赖,poetry show --tree显示出依赖树。看下如何安装及创建一个项目

$ pip install poetry
$ poetry new sample

它创建的项目比上面都简单

$ tree sample
sample
├── README.rst
├── pyproject.toml
├── sample
│ └── __init__.py
└── tests
├── __init__.py
└── test_sample.py

如果给 poetry new带上--src参数,那么源文件目录sample会放在src目录下,即sample/src/sample.

poetry init会在当前目录中生成pyproject.toml文件,目录等的生成需手动完成。

它不关注文档的生成,代码规范的检查,代码覆盖率都没有。它的项目配置更集中,全部在 pyproject.toml文件中,toml是什么呢?它是一种配置文件的格式 Tom\’s Obvious, Minimal Language (https://github.com/toml-lang/toml).

pyproject.toml有些类似 NodeJSpackage.json文件,比如 poetry add, poetry install 命令的行

# 往 pyproject.toml 中添加对 boto3 的依赖并安装(add 还能从本地或 git 来安装依赖 ),
poetry add boto3

# 将依照 pyproject.toml 文件中定义安装相应的依赖到当前的 Python 虚拟环境中
# 比如在 <test-venv>/lib/python3.9/site-packages 目录中,安装好模块后也可让测试用例使用
poetry install

其他主要的

1. poetry build # 构建可安装的 *.whl 和 tar.gz 文件
2. poetry shell # 会根据定义在 pyproject.toml 文件中的依赖创建并使用虚拟环境
3. poetry run pytest # 运行使用 pytest 的测试用例,如 tests/test_sample.py
4. poetry run python -m unittest tests/sample_tests.py # 运行 unittest 测试用例
5. poetry export --without-hashes --output requirements.txt # 导出 requirements.txt 文件, --dev 导出含 dev 的依赖,或者用 poetry export --without-hashes > requirements.txt

poetry run能执行任何系统命令,只是它会在它要的虚拟环境中执行。所以可以想见,poetry的项目要生成文档或覆盖率都必须用poetry run ...命令来支持sphinx,coverageflake8

在 sample 目录(与 pyproject.toml 文件平级)中创建文件 my_module.py, 内容为

def main:
print(\'hello poetry\')

然后在 pyproject.toml中写上

[tool.poetry.scripts]
my-script=\"sample.my_module:main\"

再执行

$ poetry run my-script

就会输出 \”hello poetry\”。

通过对以上四个工具的认识,项目结构的复杂度由 cookiecutter-pyproject -> PyScaffold -> PyBuilder -> Poetry 依次降低,使用的难度大略也是相同的顺序

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2022年12月1日 上午8:10
下一篇 2022年12月1日 上午8:12

相关推荐

  • 麻类等纤维质酶降解生产燃料乙醇技术取得突破

      由我院麻类研究所和陕西师范大学等单位合作开展的麻类等纤维质预处理、糖化液酵解生成燃料乙醇研究取得重大突破。12月11日,“麻类等纤维质酶降解生产燃料乙醇技术”通过了农业部成果鉴…

    科研百科 2022年5月19日
    238
  • 志臻学校的简介

    志臻学校简介 志臻学校是一所位于中国广东省珠海市香洲区的大型公立学校,成立于1995年。学校拥有一支高水平的师资队伍,包括多名来自名校的优秀教师和经验丰富的教育工作者。学校致力于为…

    科研百科 5天前
    0
  • 如何规范医院科研项目经费管理

    如何规范医院科研项目经费管理 随着现代医学的不断发展,医院科研项目成为了医院工作中不可或缺的一部分。然而,由于医院的管理方式、经费预算和开支等方面的不规范化,科研项目经费管理存在一…

    科研百科 2024年9月11日
    18
  • 新罗区社工部是什么单位

    新罗区社工部是中华人民共和国新罗区的一个政府部门,主要负责协调、管理、服务社会事务,促进社会的和谐与稳定。 新罗区社工部成立于1995年,是新罗区 government 的一个重要…

    科研百科 2024年10月19日
    0
  • 房地产行业数字化(房地产行业数字化转型)

    (1)中国产业演变与数字化 上周六,一个做地产SaaS的朋友问我,信息化和数字化到底有啥区别?我就给他拿地产行业管理系统举实例给他讲。 我说,数字化的兴起有个大背景,那就是: 1、…

    2022年6月28日
    272
  • 项目结题和验收的区别

    项目结题和验收是项目完成后的两个重要阶段,它们的区别在哪里? 项目结题是指项目完成后,项目团队结束项目的所有工作,完成项目的所有任务,并提交项目结题报告。在项目结题阶段,项目团队通…

    科研百科 16小时前
    0
  • 课题名称用不用书名号

    人工智能在医疗领域的应用 随着人工智能技术的不断发展,其在医疗领域的应用也越来越广泛。人工智能可以帮助医生更准确地诊断和治疗疾病,提高医疗效率。本文将探讨人工智能在医疗领域的应用。…

    科研百科 1天前
    0
  • 国网能源研究院是国企吗(国网能源研究院科研项目有哪些)

    国网能源研究院科研项目有哪些 国网能源研究院是国家电网公司所属的一家研究机构,致力于研究、开发和实施能源领域的新技术、新产品、新服务。在能源领域的研究中,国网能源研究院重点开展可再…

    科研百科 2024年8月3日
    43
  • 以党员星级评定量化考核激发党建内生动力(党员评星定级量化标准)

    【国企这十年】 中共山东省国资委委员会选送 山东省属企业党建工作百佳案例之四十八 以党员星级评定量化考核激发党建内生动力 文/山东能源鲁西矿业彭庄煤矿党委 案例简介:山东能源鲁西矿…

    科研百科 2023年7月24日
    134
  • 中央高校基本科研业务项目

    中央高校基本科研业务项目 中央高校基本科研业务项目是高校科研发展的重要保障,也是提高高校科研水平、推动高等教育事业健康发展的重要手段。近年来,随着国家加大对高校科研的投入,中央高校…

    科研百科 5天前
    0