超算小站 超算小站
首页
  • 注册账号
  • 登录系统
  • 熟悉系统
  • 配置环境
  • 数据管理
  • 作业管理
  • 集群软件环境:

    • 01.编译环境
    • 02.基础库
    • 03.应用软件
    • 04.工具软件
    • 05.常用语言环境
    • 06.使用进阶
  • 入门课程

    • 01.超算历史
    • 02.VPN登录
    • 03.Mobaxterm工具
    • 04.Linux基本命令
    • 05.Module环境变量管理工具
    • 06.Vim文本编辑器使用
    • 07.Slurm作业管理系统
HPC&AI
  • 01.登录问题
  • 02.编译问题
  • 03.作业问题
  • 04.存储和数据问题
  • 05.GPU问题
资料下载
归档
关于我
🚀试用
首页
  • 注册账号
  • 登录系统
  • 熟悉系统
  • 配置环境
  • 数据管理
  • 作业管理
  • 集群软件环境:

    • 01.编译环境
    • 02.基础库
    • 03.应用软件
    • 04.工具软件
    • 05.常用语言环境
    • 06.使用进阶
  • 入门课程

    • 01.超算历史
    • 02.VPN登录
    • 03.Mobaxterm工具
    • 04.Linux基本命令
    • 05.Module环境变量管理工具
    • 06.Vim文本编辑器使用
    • 07.Slurm作业管理系统
HPC&AI
  • 01.登录问题
  • 02.编译问题
  • 03.作业问题
  • 04.存储和数据问题
  • 05.GPU问题
资料下载
归档
关于我
🚀试用
  • 登陆问题

  • 编译问题

  • 作业问题

  • 存储和数据问题

    • 存储和数据问题汇总
    • 关于存储配额的说明
      • 1. 存储说明
      • 2. 存储查询
        • 2.1 登陆系统时可以显示
        • 2.2 使用查询命令查询
      • 3. 磁盘配额限制
    • 天河系统数据拷贝系统用户使用流程
  • GPU问题

  • 常见问题
  • 存储和数据问题
mrzhenggang
2019-01-09
目录

关于存储配额的说明

# 关于存储配额的说明

# 1. 存储说明

天河系统采用Lustre分布式存储文件系统,该文件系统由多个存储结点构成,对外提供一个统一的大分区,供所有登陆结点与计算结点进行挂载。

Lustre高性能存储用于用户进行计算任务的数据存储,用户在登陆系统后看到的数据存储在Lustre存储中。

比如,用户名为 zhenggang,所属的文件系统为 THL6, 那么用户的根目录为 /THL6/home/zhenggang 。

# 2. 存储查询

# 2.1 登陆系统时可以显示

登陆系统后,通常就会显示该用户所属group(即用户组)的存储情况:

Disk quotas for group zhenggang (gid 5005):
     Filesystem    used    quota  limit   grace    files      quota   limit   grace
          /THL6    123G     500G    1T       -       123   1000000  2000000       -
1
2
3
表1 磁盘配额各关键词说明
关键词 含义
Filesystem 用户所在的共享分布式存储
used 用户目前已经使用的存储(单位KB)
quota 存储软限制(单位KB)
limit 存储硬限制(单位KB)
grace 存储状态
files 用户已有的文件数量(单位:个)
quota 文件数量软限制(单位:个)
limit 文件数量硬限制(单位:个)
grace 文件数量状态

# 2.2 使用查询命令查询

# TH-1A系统
lfs quota -g `whoami` `echo $HOME  | awk -F / '{print "/"$2}'`  # 查询用户组
lfs quota -u `whoami` `echo $HOME  | awk -F / '{print "/"$2}'`  # 查询用户

# TH-HPC系统
lfs quota -g -h `whoami` `echo $HOME  | awk -F / '{print "/"$2}'`  # 查询用户组
lfs quota -u -h `whoami` `echo $HOME  | awk -F / '{print "/"$2}'`  # 查询用户
1
2
3
4
5
6
7

# 3. 磁盘配额限制

为了合理利用有限的存储资源,目前中心对用户默认进行存储软限制500G,存储硬限制1T,文件数软限制100万,文件数硬限制200万的磁盘配额限制。

1)用户使用存储低于500G时,存储状态正常;

Disk quotas for group zhenggang (gid 5005):
     Filesystem    used    quota  limit   grace    files      quota   limit   grace
          /THL6    123G     500G    1T       -       123   1000000  2000000       -
1
2
3

2)当用户使用存储介于500G和1T之间时,used参数对应的数字带有“*”表示用户配额异常,“6d23h59m57s”表示倒计时,如果用户在倒计时结束前将使用存储清理到500G以下,则存储状态恢复正常。

Disk quotas for group zhenggang (gid 5005):
     Filesystem    used     quota  limit          grace    files      quota   limit  grace
          /THL6    768G*     500G    1T     6d23h59m57s    12345   1000000  2000000      -
1
2
3

3)如果在规定时间,否则用户的数据量超出软限制且超出倒计时,则无法使用了。

Disk quotas for group zhenggang (gid 5005):
     Filesystem    used     quota  limit   grace    files     quota    limit  grace
          /THL6    768G*     500G    1T     none    12345   1000000  2000000      -
1
2
3

4)如果用户数据在倒计时期间继续增长,超出硬限制,则用户存储将无法写入,如图3-4所示;数据操作也会受限制,如图3-5所示。

Disk quotas for group zhenggang (gid 5005):
     Filesystem    used     quota  limit   grace   files     quota     limit  grace
          /THL6    1.2T*     500G    1T        -   45678   1000000  2000000       -
1
2
3

有的时候用户登录会出现错误提示“Some errors happened when getting quota info. Some devices may be not working or deactivated. The data in "[]" is inaccurate.”这是因为登陆结点quota服务没有启用,对用户本身的操作和作业不会有影响。


小结

  1. 存储是有配额限制的:超出软限制,开启倒计时,倒计时到期就用不了了;超出硬限制,直接就用不了了。
  2. 查询配额,可以开启新终端登陆时自动显示,或通过命令查询lfs quota -g -h zhenggang ,请将命令中的zhenggang改为自己的帐户名。
  3. 当配额出现*时,请及时清理数据。
存储和数据问题汇总
天河系统数据拷贝系统用户使用流程

← 存储和数据问题汇总 天河系统数据拷贝系统用户使用流程→

Theme by Vdoing | Copyright © 2015-2024 Zheng Gang | MIT License | 津ICP备2021008634号
  • 跟随系统
  • 浅色模式
  • 深色模式
  • 阅读模式
×