freeBuf
主站

分类

云安全 AI安全 开发安全 终端安全 数据安全 Web安全 基础安全 企业安全 关基安全 移动安全 系统安全 其他安全

特色

热点 工具 漏洞 人物志 活动 安全招聘 攻防演练 政策法规

点我创作

试试在FreeBuf发布您的第一篇文章 让安全圈留下您的足迹
我知道了

官方公众号企业安全新浪微博

FreeBuf.COM网络安全行业门户,每日发布专业的安全资讯、技术剖析。

FreeBuf+小程序

FreeBuf+小程序

当 “代码农” 遇上 “码农”:揭秘主干开发的那些事儿 | 京东云技术团队
京东云技术团队 2023-06-07 11:20:43 140485
所属地 北京

前段时期我负责部门内部主干开发落地相关事宜,这个过程中,也真真切切的体会到了多人开发过程中,面对特性分支管理中,大家遇到的一些困扰,尤其面对敏捷迭代的开发方式,合并冲突,集成测试,代码重用等方面,都与高效两个字背离。当然,我在推进主干开发过程中,也遇到了一些问题和坎坷,在这里,集中的做一次分享。

1. 概述

主干开发,是指开发人员直接向主干(习惯上主干分支通常为:trunk 或 master)提交 / 推送代码。通常,开发团队的成员 1 天至少 1 次地将代码提交到主干分支。在到达发布条件时,从主干拉出发布分支(通常为 release),用于发布。若发现缺陷,直接在主干上修复,并根据需要 cherry pick 到对应版本的发布分支。

优点:

  • 分支模型简单高效,开发人员易于掌握不容易出现错误操作

  • 避免了分支合并、冲突解决的困扰

  • 随时拥有可发布的版本

  • 有利于持续集成和持续交付

缺点:

  • 基础架构要求高:合入到主干的代码若质量不过关将直接阻塞整个团队的开发工作,因此需要高效的持续集成平台进行把关;

  • 自动化测试要求高:需有完备单元测试代码,确保在代码合入主干前能在获得快速和可靠的质量反馈;

  • 最好有代码评审:若代码质量要求高,需要配套代码评审(CR)机制,在代码提交到主干时,触发 CR,通过 Peer Review 后才能正式合入;

  • 最好有特性开关:主干开发频发合入主干的情况下,特性拆分得很小,可能是半成品特性,需要配套特性开关(Feature Toggle),只有当特性整体开发完才通过灰度发布等手段逐步打开;

适用环境:

  • 对迭代速度要求高,希望需求快速交付上线

  • 基础架构强,持续集成工具高效;

  • 团队成员习惯 TDD(测试驱动开发),代码自动化测试覆盖率高(至少增量代码的自动化测试覆盖率高);

2. 整体架构

2.1 衡量主干开发的效果

可以通过执行以下操作来衡量主干开发的效果。

测试的因素衡量的指标目标
应用代码库中的活跃分支数。衡量应用代码库版本控制系统中的活跃分支数,让所有团队都能看到此数字。然后跟踪目标状态的增量式进度。不超过三个活跃分支。
代码冻结期。衡量团队的代码冻结数及冻结时长。这些衡量指标还可以对合并冲突、代码冻结、稳定等方面所耗费的时间进行分类。无人提交代码时,没有代码会被冻结。
将分支合并到主干的频率。衡量合并的每个分支的二进制(是 / 否)值,或者衡量每天合并的分支的百分比。每天至少合并一次。
查看审批代码更改所需的时间。如果您异步执行代码审核,请衡量审批更改请求所需的平均时间,并特别关注所需时间大大超过平均值的请求。设法使代码审核成为在开发过程中执行的同步活动。

2.2 常见误区

如需全面采用主干开发,需要避免以下常见障碍:

  • 繁琐的代码审核流程。许多组织的代码审核流程都较为繁琐,需要多次审批才能将更改合并到主干中。如果代码审核很费力并且需要数小时或数天才能完成,开发者会避免小批量工作,改为进行大批量更改。因为大批量代码审核十分复杂,因此审核人员的审核时间会延长,进而造成恶性循环。

  • 这样的结果是开发者避免使用合并请求,从而导致合并请求经常受到冷落。由于很难通过检查来推导大规模更改对系统的影响,因此审核人员很可能会忽略缺陷,主干开发的优势也就减弱了。

  • 异步执行代码审核。如果您的团队实行结对编程,那么该代码已由第二个人审核。如果需要进一步审核,则应该同步执行:开发者准备提交代码时,应立即让团队中的其他人员审核代码。开发者不应该要求进行异步审核,例如向工具提交请求,然后在等待审核时启动新任务。合并延迟时间越长,就越有可能发生合并冲突和相关问题。如果执行同步审核,需要团队同意优先审核彼此的代码而不是处理其他工作。

  • 在提交代码之前未运行单元测试或者自动化测试。为了确保主干保持工作状态,在提交前对代码更改运行测试非常重要。此操作可以在开发者工作站完成,许多工具也提供针对本地更改远程运行测试,然后在通过测试后自动提交更改的功能。如果开发者知道自己无需大量繁杂流程即可将代码提交到主干,那么就会小批量更改代码,这些更改易于理解、审核、测试,并且可以更快地迁移到生产环境。

2.3 改进主干开发的 Tip

  • 小批量开发。主干开发最重要的推动因素之一就是团队学习如何小批量开发。这需要为开发团队提供培训和组织支持。

  • 执行同步代码审核。如前所述,转换为同步代码审核或至少确保开发者优先进行代码审核,有助于确保所做的更改不必等待数小时甚至数天即可合并到主干中。

  • 执行全面的单元测试和自动化测试。确保您拥有全面而实用的自动化单元测试套件,并在每次提交之前运行这些测试工具。

  • 快速构建。构建和测试过程应在几分钟内执行。目标是将测试环境的 jdos 部署串联到整个 CI 的自动化流水线之中

2.4 主干开发流程说明

1686107412_647ff5143d5e04f346bd6.png!small?1686107413471

如图所示,研发小伙伴基于 master 分支开发,当每次 merge 时,都会触发流水线验证过程。在流水线验证中:

1.EOS 代码扫描,该扫描会扫描代码中不规范的情况,按照代码规约不同,会有不同的级别,包括 WARNING, MAJOR, CRITICAL, BLOCKER 四种级别,基于不同级别可以设置拦截规则,如果代码不符合设定的拦截规则,将不予 merge。

2. 代码评审会触发代码评审邀请,可以根据设定,邀请组内研发,leader,或者测试人员参与代码评审,通过设定规则,如果代码评审通过,才允许 merge。

3. 现在自动进行 maven 打包和单元测试工作,如果单元测试不通过,将不予 merge。

4. 流水线会自动将单元测试通过的 jar 包发布到测试的 JOS 分组进行部署,部署完成后自动调取线上自动化测试流程,只有所有接口通过自动化测试,才允许 merge。

3. 落地方案

3.1 单元测试

应用架构: 基于 spring boot junit 编写单元测试。

我们可以将测试按照模块划分,放在不同的目录之下,可以分为集成测试和单元测试。这样做的原因是,当我们的项目边的越来越大的时候,写的测试会越来越多,当所有测试都放在一个目录下的时候,跑一次集成测试时间会很长。具体目录如下:

主开发目录测试开发目录测试模块描述测试父类命名
src/test/init初始化测试模块InitTestBase
unitservice 单元测试模块UnitTestBase
jpa持久化层测试模块JPATestBase
mvccontroller 层测试MvcTestBase

所有测试模块集成对应的父类,然后类名必须以对应模块 + Test 结尾,例如:ShipperStatisticUnitTest

  1. 引入单元测试依赖 spring-boot-starter-test
<dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
</dependency>

2. 引入 surefile 插件

<plugin>
                <groupId>org.apache.maven.plugins</groupId>
                <artifactId>maven-surefire-plugin</artifactId>
                <version>2.22.2</version>
                <configuration>
                    <skip>false</skip>
                    <includes>
                        <include>**/unit/*Test.java</include>
                    </includes>
                </configuration>
</plugin>

3. 配置测试配置文件路径

<resources>
        <testResources>
            <testResource>
                <directory>src/test/resources</directory>
                <!--①-->
                <excludes>
                    <exclude>application*.properties</exclude>
                </excludes>
            </testResource>
            <testResource>
                <directory>src/test/resources</directory>
                <filtering>true</filtering>
                <includes>
                    <include>application.properties</include>
                    <include>important.properties</include>
                    <include>application-${activatedProperties}.properties</include>
                </includes>
            </testResource>

        </testResources>

3.2 JaCoCo 代码覆盖率扫描

该处可以先串联到流水线中,但不做门禁设置,等后期确定标准后,再打开门禁设置。

3.3 EOS 静态代码扫描

在主干开发模式中,因为 EOS 静态代码扫描,配置代码合并门禁,确保代码编码规范。配置如下图所示例子:

1686107426_647ff5229e66c8b62e615.png!small?1686107427196

3.4 代码线上评审

代码评审通过 Coding 内置的评审规则实现,规则设定如下:

1. 评审分支为 master 分支,并在 push 时创建代码评审,并阻塞代码直接合入目标分支。

2. 评审人需要达到两人及以上通过后,才能触发随后的操作。

3. 不允许自评。

4. 不允许特定成员跳过自动化检查。

1686107437_647ff52d11a001e116e39.png!small?1686107437866

3.5 特性开关

遇到此情况,一般是多版本同时开发的情况

此处跟业务强相关,需要具体问题具体分析。不过保证如下几个原则:

  • 代码开发尽量保证高内聚低耦合,保证类的封闭性,同时可以用常用设计模式,保证功能的业务代码解耦,有利于特性区分。

  • 个别情况,可以引入 ducc 配置中心,实现特性开关。

3.6 流水线配置

在行云流水线中,主要包括如下几个节点:

1686107449_647ff53972b6838711c01.png!small?1686107449844

其中有一个配置上有一个小坑就是下载代码。为什么这么说呢?

因为我们流水线的触发条件是跟 coding 上的代码评审配合使用,当主干分支发生 merge 请求时,这个时候会触发流水线,但拉取的代码并不能直接填写主干分支名称(如:master), 原因是当前的 commit 快照并没有合并到 master 上,而是处于等待状态,只有当流水线通过后才会真正合并到主干分支,这是如果下载代码里拉取的主干分支就是不包含当前提交内容的快照,并不能满足我们的诉求。

那么,我们该如何配置呢?

好在 Webhook 中会带一些系统内置全局参数,其中 globalParams.user.WEBHOOK_ATTR_COMMIT_ID,代表的就是当前提交请求所包含的 commit 快照,所以,我们只需要配置这个全局参数即可,如图所示:

1686107458_647ff5425e0003ca30d60.png!small?1686107459368

配合如上配置,我们在触发设置中,只需要设置 MR created/Updated 事件即可。如下图所示:

1686107468_647ff54c1b12199c469f5.png!small?1686107468631

4. 总结

于许多开发者而言,主干开发是一项重大变革,您很可能会遇到一些阻碍。许多开发者根本无法想像如何采用这种方式工作。一项好的做法是找到曾采用这种方式工作的开发者,让他们指导其他开发者。让一些团队转为采用主干开发方式工作也很重要。实现此目标的一种方法是将大量具有主干开发经验的开发者召集到一起,这样至少有一个团队遵循主干开发做法。然后,如果您确信遵循此做法的团队发挥预期的作用,则可以将其他团队转换为这种风格。

当然主干开发也不是银弹,他也会有一些自己的弊端,比如在处理需求变更,或者同时多版本并行开发时,也需要建立多个临时分支支持,想做到纯粹的主干开发,也是过于理想化的结果。

作者:京东物流 赵勇萍

来源:京东云开发者社区

# 系统安全 # 敏捷开发 # 单元测试
本文为 京东云技术团队 独立观点,未经授权禁止转载。
如需授权、对文章有疑问或需删除稿件,请联系 FreeBuf 客服小蜜蜂(微信:freebee1024)
被以下专辑收录,发现更多精彩内容
+ 收入我的专辑
+ 加入我的收藏
京东云技术团队 LV.10
最懂产业的云
  • 1753 文章数
  • 91 关注者
源码补丁神器—patch-package
2025-04-14
使用mybatis切片实现数据权限控制
2025-04-14
震惊:苹果手机电池栏“黑白无常”
2025-04-14
文章目录