StarGFS brief introduction

StarGFS简介

　　星实StarGFS是领先的基于POSIX文件系统接口的并行集群文件系统，意味着不必重写或修改应用程序来利用StarGFS。它的开发非常注重最大的性能和可扩展性，高度的灵活性，并且设计考虑了健壮性和易用性。

　　StarGFS客户端通过高速以太网络、Infiniband连接与存储服务器节点进行通信，访问文件系统内的数据。StarGFS通过在多个存储服务器上透明地分布用户数据，当增加系统中服务器和硬盘的数量，所有硬盘和所有服务器的容量和性能都聚合在一个文件系统名字空间中。从而文件系统的性能和容量就可以轻松地扩展到特定业务所需的量级，也可以在以后系统投入生产时进行在线扩展。

　　StarGFS文件系统的可伸缩性减少了部署许多独立文件系统的需要，例如每个集群部署一个文件系统，或者更糟的是每个NFS文件服务器部署一个文件系统。StarGFS的统一名字空间将带来强大的存储管理优势，例如避免维护在多个文件系统上暂存的数据的多个副本。由于这个原因，它们使用StarGFS文件系统所需的聚合存储比使用其他解决方案所需的要少得多。通过将文件系统容量与许多服务器聚合在一起，还可以聚合I/O吞吐量，并随其他服务器扩展。此外，通过动态添加服务器，可以在安装集群后轻松地调整吞吐量或容量。

　　StarGFS并行文件系统包含三种系统模块：可用于访问文件系统的文件系统客户端、提供文件I/O服务的智能存储节点和管理文件系统中的名称和目录的元数据节点。图1显示了一个具有StarGFS文件系统的集群。

StarGFS form

StarGFS组成

　　StarGFS将用户文件块中分离出元数据：文件块由智能存储服务器来提供，包含用户想要存储的数据（即用户文件内容）；而元数据是“关于数据的数据”，例如访问权限、文件大小以及关于用户文件块如何分布在存储服务器上的信息。一旦客户端获得了特定文件或目录的元数据，它就可以直接与智能存储服务通信来存储或检索文件块，因此元数据服务不再参与读或写操作。

　　StarGFS面向所有需要大型和/或快速文件存储的应用场景。虽然StarGFS最初是为高性能计算而开发的，但如今它几乎应用于工业和研究的所有领域，包括但不限于：人工智能、生命科学、石油天然气、金融、音视频媒体、影像档案。无缝可伸缩性的能力还允许快速（但可能是不规则或不可预测的）增长的用户很容易适应他们随着时间的推移所面临的挑战。

　　StarGFS并行文件系统采用了基于对象存储理念的体系结构，其中传统硬盘被结合了CPU、网络和数据的智能存储节点所取代。智能存储节点将传统的块级接口替换为这样一种接口，在这种接口中，客户端可以将字节范围读写到更大（通常大小可变）的命名对象，从而将低级块分配决策分发给设备本身。客户端通常与元数据节点交互以执行元数据操作（打开、重命名），同时直接与智能存储节点通信以执行文件I/O（读写），显著提高了总体可扩展性。

　　StarGFS文件系统元数据信息任意写实现无缝在线扩容。StarGFS完全不同于传统文件系统的固定位图bitmap的设计，而是采用了基于独立SSD存储提高性能、文件系统元数据信息任意写的实现方式，不但可以提高元数据的读写访问效率，而且元数据信息完全可以根据实际文件系统文件数量动态的创建新的元数据信息任意的写入到高速SSD存储中，不但效率高，文件系统扩容完全不需要停止数据读写访问，从而确保了更高的业务访问连续性。

（3）支持单节点、双节点、分布式集群化部署

       StarGFS初始配置一台存储节点（智能存储节点）、两台存储节点即可实际上线使用，根据需要安装指定数量的硬盘。在初期部署双台存储节点的情况下，后续支持动态增加硬盘或者增加存储节点来扩展存储容量，容量区间可以从数TB按需扩展到数百PB，无需停机。

       StarGFS系统的安全性和读写性能可以随着硬盘数量的增多而随之提升。StarGFS系统更小化的初始部署能力，方便能够让并行文件系统从业务发展之初就进入到用户的业务系统中，并让文件系统能够持续在线扩展来支持业务的发展壮大所带来的高性能和大容量需求。

（4）StarRAID提高数据安全性和空间利用率

       StarGFS摒弃了传统RAID技术以及存储节点之间的数据镜像、HA等复杂并且成本高昂的技术，采用了多副本和StarRAID N+M两种数据冗余模式等多种方式来保障数据的可靠性，并且可以针对单独的目录设置不同的冗余模式。在满足性能的前提下，用户可以根据业务的需求，灵活的调整性能优先策略或者容量优先的策略。

StarGFS Core advantages

StarGFS核心优势

       StarGFS的StarRAID N+M冗余功能可以支持在文件、块、对象等三种协议基础上大规模部署上线。相比传统常用的多副本策略，StarGFS可以在更少的硬件投入情况下，存储相同的数据容量和实现相同的容错能力：

 StarGFS的StarRAID冗余机制容错

StarRAID冗余容错机制带来巨大的构建、使用成本优势

（5）小文件容器化存储提高存储和检索效率

      StarGFS支持千亿级文件统一存储和高效率检索。StarGFS内部的系统采用了创新的小文件Container容器聚合存储技术，能够在前端呈现标准POSIX文件系统名字空间的同时，在后端小文件落盘存储的时候实现智能的聚合成大文件的方式来实际存储。

      StarGFS通过采用该技术将任何大文件、小文件都会被当做大文件一样的来存储和检索访问，完全消除了传统文件系统文件存储数量受限、文件检索效率低下等严重的数量和效率的问题，打破了传统存储的局限，将小文件创建、检索效率提高到传统存储的十倍以上，完全可以轻松应对任何存在海量小文件的业务场景。

小文件性能优化效率变化

（6）文件系统和对象存储互通

      StarGFS同时支持提供S3对象存储接口能力，同时还支持文件系统和对象存储实现数据互通的功能。业务可以根据S3、NFS、CIFS、POSIX、HDFS等访问同一份数据，按需构建数据湖的存储平台。

（7）广泛的应用场景支持

      StarGFS能够基于创新的StarRAID N+M冗余技术，消除设备级别的故障影响，并且能够同时提供文件系统、块设备、对象存储等全面的存储接口协议，提供更高的并发读写效率，从而能够在同一套系统中按需分配容量、接口协议等来支持广泛的业务应用场景。

（1）高聚合读写性能：单块SATA机械盘150MB/s、单块NVME SSD 4GB/s，聚合性能随着盘数增加而线性增加

       StarGFS并行文件系统采取了操作系统内核模块化的POSIX客户端和服务器端的软件设计、线程池化的数据处理能力、优化的N+M纠删码、优化的RDMA等技术，在人工智能、HPC等高并发读写的场景中，能够充分发挥出存储介质、存储网络的性能极限，满足应用端更高的数据读写性能需求。

       StarGFS实现多了成熟的多元数据节点集群技术、小文件容器化聚合存储技术，能够提供每秒数十万次的文件检索访问，满足AI人工智能、HPC等场景中海量小文件的高性能存储和检索访问需求。

（2）StarGFS按需实现与GPU/CPU计算服务器实现存算融合、存算分离等部署架构，并实现统一管理

       StarGFS支持以下几种方式构建存储池：

1. GPU服务器本地SSD存储池：StarGFS支持融合部署在GPU服务器中，基于GPU服务器本地的SSD/SATA等存储资源，灵活构建一个并行文件系统存储池，提供给GPU服务器上运行的AI人工智能业务使用访问。即每台GPU服务器同时跑GPU计算，又作为存储资源的角色来实现配置。StarGFS基于NVME SSD优化的文件系统和RDMA技术，可以为人工智能业务提供超高的读写性能和极低的访问延迟。
2. CPU服务器本地SSD/SATA存储池：StarGFS支持融合部署在CPU服务器中，基于CPU服务器本地的SSD/SATA等存储资源，灵活构建一个并行文件系统存储池，提供给CPU服务器上运行的计算业务使用访问。即每台服务器同时跑CPU计算，又作为存储资源的角色来实现配置。
3. 独立存储节点构建独立的存储池：StarGFS部署在独立的存储节点中，构建一个独立的共享存储池，按需分配给对应的业务应用使用。

 StarGFS按需实现存算融合、存算分离模式，并统一管理调度