香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

过去几周,我对高性能 ARM 开发板的追求进展不顺,但经过近三个月的测试,以下是我对Banana Pi M7 的笔记。

这是一篇早就该发布的文章,由于多种缘由而被推迟了,但简而言之,我认为这是RK3588迄今为止我测试过的最好、最紧凑的主板。

免责声明: Banana Pi 寄给我一台评测机(在此表明感谢),本文遵循我的评测政策。我已购买官方机箱,并提供了自己的 NVMe 硬盘进行测试。

第一印象

如果您曾经使用过任何近期的RK3588主板,那么M7会让您感觉很密集——这是由于它只比Raspberry Pi稍大一点,而且 PCB 的两侧都相当拥挤:

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

请注意底部强劲的 LAN 驱动器,以及 ArmSoM 设法在边缘处封装的连接器数量。

使用低调的连接器(让我们面对现实吧,连接器更少,由于它只有一个 HDMI 输出)使它比Orange Pi 5+更紧凑,同时依旧能够在下面安装全尺寸 NVMe,这增加了密度感。

我的丝网印刷掩模上写着“Bpi v1.1”,但主板装在一个标有“ArmSoM Sige7”的盒子里,由于ArmSoM是 Banana Pi 的合作公司。

硬件规格

与我最近看过的大多数 Rockchip SBC 一样,M7遵循超级熟悉的模式:

  • 它是完整的RK3588(4xA76/2.4GHz 核心和 4xA55/1.8GHz 核心,加上 Mali-G610 GPU 和 NPU)
  • 底部 M.2 2280 PCIe 3.0×4 NVMe 插槽(利用 3588 提供的 PCIe 3.0 通道)
  • 双 2.5GbE 端口,以及集成 WiFi 6/BT 5
  • 通过 USB-C 连接 HDMI 2.1 和 DisplayPort 1.4(8K30)(遗憾的是,无法供电,但它有一个单独的 USB-C PD 端口,超级好)
  • 一般的一组GPIO引脚,加上多个摄像DSI头CSI和显示器连接器)

我的样品配备了 16GB RAM 和 128GB ,并且在大部分测试中eMMC我使用了1TB Corsair NVMe 。

冷却和电源

与往常一样,该主板没有配备冷却解决方案(附加的金属外壳有一个内部凸起用于散热 – 见下文),我使用了我的商标铜块:

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

M7 刚刚从我的测试台上取下,带有串行控制台适配器和 Wi-Fi 尾纤(不包括在内)。

与之前的主板一样,M7使用100W 桌面 USB-C PD 充电器供电时,空闲温度约为 40摄氏度,常规使用(浏览或中等至轻度桌面负载)时平均功耗为 2-3W,空闲温度为 1W 或更低 – 也与其他主板一致。

实际上,我花了一些功夫才让它的功耗超过 6W,只有在运行ollama或 WebGL 基准测试时它的功耗才会超过 10W。

操作系统支持

我对M7超级感兴趣的缘由之一是,它是极少数支持 Armbian Platinum 的主板之一,因此我测试了它的两个版本:

  • Armbian Jammy(带有 GNOME 桌面和驱动程序的UbuntuGPU 22.04 )
  • Armbian Bookworm(带有 CLI 界面的Debian 12,这是我用来运行Proxmox 的基础)。

为了新颖性(以及更主流的体验),我还尝试了Ubuntu Rockchip 24.02(一个尝试为 Rockchip 设备提供更新的 Ubuntu 映像的新发行版),但我所有的基准测试都是在Armbian Bookworm 中完成的(稍后会详细介绍)。

更新:在我测试后的几周内,Armbian发布了Ubuntu Noble的新版本,据说会有更好的MESA支持VPU。我还没有时间测试,等测试好了我会更新这篇文章。

这两款产品都搭载了内核 6.1.43,与所有仍搭载 5.x 内核的 SBC 相比,这是一个很大的进步。

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

我不太看重 WebGL 基准测试,但 Jammy 的表现还不错。

总体而言,Armbian 的体验超级好,除了RK3588GPU 驱动程序方面常见的一些问题(虽然依旧有点不稳定,但使用起来还是很明显)。我毫无困难地启动并运行了一个可用的 GNOME 桌面,而且M7 的响应速度超级快。

从服务器的角度来看,将 Bookworm 安装升级到Proxmox很顺利,我可以毫无问题地将其加入到我的集群中。

基准测试

到目前为止,我已经测试了相当多的RK3588主板,我不得不说没有任何意外——在运行 Armbian Bookworm 时,M7 的得分与 Orange Pi 5 和 YeeYooToo 的得分相差 5% 以内,NVMe 吞吐量上的得分几乎完全一样(由于,嗯,我实际上使用了一样的驱动器):

NVMe 性能

我决定跳过对内部 EMMC 进行基准测试,由于我正在从 NVMe 驱动器启动和运行操作系统,并且甚至没有文件系统。

像往常一样,我使用了fio:

# fio --filename=/<path>/file --size=5GB --direct=1 --rw=randrw --bs=64k --ioengine=libaio --iodepth=64 --runtime=120 --numjobs=4 --time_based --group_reporting --name=random-read-write --eta-newline=1

……结果相当不错,M7在吞吐量方面略胜于Orange Pi 5+ ,但差距不大:

机器

IOPS(64K随机读取)

IOPS(64K随机写入)

香蕉派 M7 (NVME SSD)

13460

13326

英特尔 N5105(SATA 固态硬盘)

2741

2743

英特尔 i7-12700(NVMe 固态硬盘)

42926

42908

英特尔 i7-6700(SATA 固态硬盘 1)

2280

2280

英特尔 i7-6700(SATA 固态硬盘 2)

2328

2329

Orange Pi 5+(NVMe SSD)

13372

13371

树莓派 4(USB 3.0 SSD)

2001

2003

优易通 R1 (NVME 固态硬盘)

4670

4677

过去几周,我对高性能 ARM 开发板的追求进展不顺,但经过近三个月的测试,以下是我对Banana Pi M7 的笔记。

这是一篇早就该发布的文章,由于多种缘由而被推迟了,但简而言之,我认为这是RK3588迄今为止我测试过的最好、最紧凑的主板。

免责声明: Banana Pi 寄给我一台评测机(在此表明感谢),本文遵循我的评测政策。我已购买官方机箱,并提供了自己的 NVMe 硬盘进行测试。

第一印象

如果您曾经使用过任何近期的RK3588主板,那么M7会让您感觉很密集——这是由于它只比Raspberry Pi稍大一点,而且 PCB 的两侧都相当拥挤:

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

请注意底部强劲的 LAN 驱动器,以及 ArmSoM 设法在边缘处封装的连接器数量。

使用低调的连接器(让我们面对现实吧,连接器更少,由于它只有一个 HDMI 输出)使它比Orange Pi 5+更紧凑,同时依旧能够在下面安装全尺寸 NVMe,这增加了密度感。

我的丝网印刷掩模上写着“Bpi v1.1”,但主板装在一个标有“ArmSoM Sige7”的盒子里,由于ArmSoM是 Banana Pi 的合作公司。

硬件规格

与我最近看过的大多数 Rockchip SBC 一样,M7遵循超级熟悉的模式:

  • 它是完整的RK3588(4xA76/2.4GHz 核心和 4xA55/1.8GHz 核心,加上 Mali-G610 GPU 和 NPU)
  • 底部 M.2 2280 PCIe 3.0×4 NVMe 插槽(利用 3588 提供的 PCIe 3.0 通道)
  • 双 2.5GbE 端口,以及集成 WiFi 6/BT 5
  • 通过 USB-C 连接 HDMI 2.1 和 DisplayPort 1.4(8K30)(遗憾的是,无法供电,但它有一个单独的 USB-C PD 端口,超级好)
  • 一般的一组GPIO引脚,加上多个摄像DSI头CSI和显示器连接器)

我的样品配备了 16GB RAM 和 128GB ,并且在大部分测试中eMMC我使用了1TB Corsair NVMe 。

冷却和电源

与往常一样,该主板没有配备冷却解决方案(附加的金属外壳有一个内部凸起用于散热 – 见下文),我使用了我的商标铜块:

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

M7 刚刚从我的测试台上取下,带有串行控制台适配器和 Wi-Fi 尾纤(不包括在内)。

与之前的主板一样,M7使用100W 桌面 USB-C PD 充电器供电时,空闲温度约为 40摄氏度,常规使用(浏览或中等至轻度桌面负载)时平均功耗为 2-3W,空闲温度为 1W 或更低 – 也与其他主板一致。

实际上,我花了一些功夫才让它的功耗超过 6W,只有在运行ollama或 WebGL 基准测试时它的功耗才会超过 10W。

操作系统支持

我对M7超级感兴趣的缘由之一是,它是极少数支持 Armbian Platinum 的主板之一,因此我测试了它的两个版本:

  • Armbian Jammy(带有 GNOME 桌面和驱动程序的UbuntuGPU 22.04 )
  • Armbian Bookworm(带有 CLI 界面的Debian 12,这是我用来运行Proxmox 的基础)。

为了新颖性(以及更主流的体验),我还尝试了Ubuntu Rockchip 24.02(一个尝试为 Rockchip 设备提供更新的 Ubuntu 映像的新发行版),但我所有的基准测试都是在Armbian Bookworm 中完成的(稍后会详细介绍)。

更新:在我测试后的几周内,Armbian发布了Ubuntu Noble的新版本,据说会有更好的MESA支持VPU。我还没有时间测试,等测试好了我会更新这篇文章。

这两款产品都搭载了内核 6.1.43,与所有仍搭载 5.x 内核的 SBC 相比,这是一个很大的进步。

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

我不太看重 WebGL 基准测试,但 Jammy 的表现还不错。

总体而言,Armbian 的体验超级好,除了RK3588GPU 驱动程序方面常见的一些问题(虽然依旧有点不稳定,但使用起来还是很明显)。我毫无困难地启动并运行了一个可用的 GNOME 桌面,而且M7 的响应速度超级快。

从服务器的角度来看,将 Bookworm 安装升级到Proxmox很顺利,我可以毫无问题地将其加入到我的集群中。

基准测试

到目前为止,我已经测试了相当多的RK3588主板,我不得不说没有任何意外——在运行 Armbian Bookworm 时,M7 的得分与 Orange Pi 5 和 YeeYooToo 的得分相差 5% 以内,NVMe 吞吐量上的得分几乎完全一样(由于,嗯,我实际上使用了一样的驱动器):

NVMe 性能

我决定跳过对内部 EMMC 进行基准测试,由于我正在从 NVMe 驱动器启动和运行操作系统,并且甚至没有文件系统。

像往常一样,我使用了fio:

# fio --filename=/<path>/file --size=5GB --direct=1 --rw=randrw --bs=64k --ioengine=libaio --iodepth=64 --runtime=120 --numjobs=4 --time_based --group_reporting --name=random-read-write --eta-newline=1

……结果相当不错,M7在吞吐量方面略胜于Orange Pi 5+ ,但差距不大:

机器

IOPS(64K随机读取)

IOPS(64K随机写入)

香蕉派 M7 (NVME SSD)

13460

13326

英特尔 N5105(SATA 固态硬盘)

2741

2743

英特尔 i7-12700(NVMe 固态硬盘)

42926

42908

英特尔 i7-6700(SATA 固态硬盘 1)

2280

2280

英特尔 i7-6700(SATA 固态硬盘 2)

2328

2329

Orange Pi 5+(NVMe SSD)

13372

13371

树莓派 4(USB 3.0 SSD)

2001

2003

优易通 R1 (NVME 固态硬盘)

4670

4677

Ollama CPU 性能

然后我继续进行ollama,测量tinyllama和dolphin-phi(我在之前的测试中使用的模型)在 CPU 模式下的令牌生成:

for run in {1..10}; do echo "Why is the sky blue?" | ollama run tinyllama --verbose 2>&1 >/dev/null | grep "eval rate:"; done

得出了以下结果:

机器

模型

评估令牌/秒

香蕉派 M7

海豚菲

4.25

小骆驼

10.3

英特尔 i7-6700

海豚菲

7.57

小骆驼

16.61

香橙派 5+

海豚菲

4.65

小骆驼

11.3

树莓派 4

海豚菲

1.51

小骆驼

3.77

优易图 R1

海豚菲

3.9

小骆驼

10.5

令我最初感到惊讶的是,M7比Orange Pi 5+稍慢一些,我花了一段时间才弄清楚缘由——我怀疑这与热节流有关,由于M7在这些测试中变得超级热(当温度超过 80摄氏度时,时钟速度就会降低),而Orange Pi 5+不仅在二月份进行了测试(当时温度较低),而且还安装在一个有利于对流冷却的外壳中。

所以我实际上称之为平局——由于我目前有 16GB RAM 可以在M7上使用,并且官方案例正在路上(这应该可以改善冷却效果)我将重新审视这一点phi3:instruct(初步结果还可以,但我想看看更好的冷却是否真的有所不同)。

更新:下面是一些外壳的照片。我还没有进行超级系统的测试,但我的确 注意到这个外壳的确 有助于散热——至少有一点。

RKNN工具包

像往常一样,我调查了支持情况rknn。RKNN -LLM目前已经存在,但它有一些怪癖:

  • 它要求您将模型转换为.rknn安装了 Python 3.8 的 Linux x64 机器上的文件(这令人惊讶地古老)
  • 然后它缺乏关于如何在设备上运行模型的任何文档

…所以我真的没能让它工作——当我有更多时间时我会重新审视这个问题。

关于 Ubuntu Rockchip 的说明

但我的大部分测试(以及我陷入困境的地方)都是在Ubuntu Rockchip 24.02 上进行的,这是一个新的发行版,尝试为 Rockchip 设备提供更新的 Ubuntu 映像。

它看起来很有希望,但我遇到了一些问题:

  • M7在运行时会变得超级热,安装时以及正常使用(浏览器、终端等)时温度达到 76摄氏度。
  • 启动速度超级慢(需要一分钟多的时间才能到达登录提示)。
  • 尝试将其安装到 EMMC 后,我遇到了一个超级奇怪的uboot错误,导致我无法通过按下电源按钮来启动它。

相比之下,即使两者都设置为这样,Armbian内核的运行平均温度要低得多(并且我所有的基准测试都是使用调速器在Armbian Bookwormperformance中完成的)。ondemand

我花了几个星期的时间,但最终能够通过重新刷新官方 Wikiuboot中的图像来解决启动问题,但需要注意的是,这还需要我使用真正的 Windows 机器来刷新它——使用 VM 超级困难,由于端口会改变 USB ID,而且我无法在 Linux 上的 Windows VM 中工作。OTGRKDevTool

支线任务:设置 RKDevTool 语言

能够使用的关键步骤RKDevTool(除了在 Windows 中安装ADB驱动程序之外)是能够以英语使用它,由于我可以获得的所有最新版本都默认为中文。

诀窍是将其附带Selected的语言设置为:config.ini2

#选择工具语言:Selected=1(中文);Selected=2(英文)
[Language]
Kinds=2
Selected=2
LangPath=Language

Lang1File=Chinese.ini
Lang1FontName=宋体
Lang1FontSize=9

Lang2File=English.ini
Lang2FontName=Arial
Lang2FontSize=9

否则,界面导航会有点困难——但与实际弄清楚我必须重新刷新uboot图像相比,这只是一个小问题……

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

我使用 RKDevTool 3.19 和 1.15.1 uboot 镜像来修复我的主板

支线任务:有效使用 VS Code 串行监视器

在调试启动问题时,我使用了带有扩展的 USB 转 TTL 适配器
ms-vscode.vscode-serial-monitor。

但是,该扩展不支持目前似乎所有的范围都是 1.5Mbps 的波特率,所以我不得不将其添加到 VS Code 配置中以使用自定义波特率:

"vscode-serial-monitor.customBaudRates":[1500000]

媒体转码

虽然我还没有找到它的用途rknn-toolkit2,ollama也无法利用它RK3588的先进硬件,但我终于能够在支持下测试Jellyfin——RK3588它有点崩溃(有时很难确定是客户端还是服务器崩溃),但 CPU 负载的减少超级明显,并且使其作为媒体服务器更具吸引力——尽管它很难与英特尔的 QuickSync 竞争。

请记住,您必须选择正确的 Docker 镜像才能实现这一点,并且它不是全面的 GPU 支持——ffmpeg似乎只是进行了修补才能做到这一点,而且我还没有让HandBrake工作(这将是一个更有趣的测试)。

但我打算在Jellyfin发布一两次之后再回到这个主题并进行更系统的测试,由于VPU同时RK3588支持硬件解码和/硬件编码。H.265AV1H.264H.265

我们只需要软件支持再改善一点,我想我们就会处于一个良好的状态。

更新:正如我上面提到的,在我完善这份草案后的几周内,Armbian发布了 Ubuntu Noble 版本,改善了对 MESA/VPU 的支持,但我还没有时间测试它。测试完成后我会更新这篇文章。

结论

不难看出M7的吸引力——主板上包含了许多可以立即使用的功能,而这些功能在其他主板上要么是附加的,要么是根本不存在的:

  • EMMC 存储(Orange Pi 5 没有配备)
  • Wi-Fi(Orange Pi 和 YouYeeToo R1 均不配备,尽管它们有 M.2 插槽)
  • 双 2.5GbE 网络
  • M.2 2280 NVMe 插槽(80mm NVMe 驱动器的选择比 42mm 更多)

令我失望的一件事(这在当前的 SBC 中很正常)是缺少单线操作来将其插入显示器并以此方式供电 – 这感觉像是错失了一个机会。

但是,如果您想要一台可以实际开发的 ARM Linux 机器,那么硬件功能和官方的Armbian支持使它比 Raspberry Pi 5 更具吸引力——Pi 5RK3588在原始 CPU 能力或吞吐量(无论是网络还是存储)方面无法与任何主板匹敌,而M7至少与我测试过的其他 Rockchip 主板相当。

是的,文档和软件支持依旧有点混乱,但这对于这些主板来说是正常的 – 而且M7至少比大多数主板得到了更好的支持。

更新:官方案例

在我发布此消息后仅几天它就到了,但我花了一段时间来组装和测试它。

香蕉派 Banana Pi BPI-M7 瑞芯微RK3588开发板评测

如果您不喜爱太单调,也可以选择黑色。

正如我所料,它的确 提供了额外的散热效果,但效果不大。实际上,由于主板目前被封闭了,闲置温度略微上升到44摄氏度。

即使机箱提供的内部“凸起”与 CPU 完全接触(使用导热垫),温度在负载下依旧会升至 70 摄氏度以上——只是上升速度较慢。

机箱的下半部分也是金属的(带有超级小的散热片),显然是为了协助 NVMe 驱动器散热而设计的,这是一个很好的设计。

从各个角度快速查看该案例。

经过一些负载测试后,我得出结论,机箱的确 有助于更有效地散热,即使在运行极端工作负载时周围会变得超级ollama热——对我来说最大的优点是它能够防止 CPU 降频。

你应该买一个吗?嗯,这取决于你的使用情况——如果你要长时间全速运行M7 ,这是一个好主意,但如果你只是把它当作台式机或闲置的服务器,那就不是必需的。

不过,如果你像我一样,喜爱带着小型电脑出门,想保护它们免受不可避免的磕碰和刮擦,这个外壳还是很方便的。正由于如此,我还订购了配套的Wi-Fi天线(显然,这个外壳会严重影响Wi-Fi性能……)。

© 版权声明
THE END
如果内容对您有所帮助,就支持一下吧!
点赞0 分享
香蕉国国王的头像 - 鹿快
评论 抢沙发

请登录后发表评论

    暂无评论内容