智能算法期末

字数统计: 1.2k字   |   阅读时长≈ 5分

智能算法结束记录

1.kaggle白嫖算力

kaggle是一个可以白嫖算力的平台，显卡是Tesla P100 16G，相比于Colab应该差不多，个人没有用过，不过应该是kaggle更加符合使用习惯。

需要注意的地方是对于数据集的操作，上传和使用较为方便，如何拿出结果：在下面的终端里面输入： 
1
2
!tar -cf filename.tar outfile # 压缩
rm -rf outfile # 删除文件

2.Tensorboard

可视化工具，可以用于记录训练数据、评估数据、网络结构、图像等
启动

1
tensorboard --logdir=runs

单条曲线

1
2
3
4
5
6
7
add_scalar(tag, scalar_value, global_step=None, walltime=None)。
参数：
- tag ( string ) – 数据标识符
- scalar_value ( float或string/blobname ) – 要保存的值
- global_step ( int ) – 要记录的全局步长值
- walltime ( float ) – 记录训练的时间，默认 walltime (time.time()) 秒
- new_style ( boolean ) – 是使用新样式（张量字段）还是旧样式（simple_value 字段）。新样式可能会导致更快的数据加载

多条曲线

1
2
3
4
5
6
add_scalars( main_tag , tag_scalar_dict , global_step = None , walltime = None)
参数：
- main_tag ( string ) – 标签的父名称
- tag_scalar_dict ( dict ) – 存储标签和对应值的键值对
- global_step ( int ) – 要记录的全局步长值
- walltime ( float ) – 记录训练的时间，默认 walltime (time.time()) 秒

例子

1
2
3
4
5
6
7
8
from torch.utils.tensorboard import SummaryWriter
import numpy as np
writer = SummaryWriter()
for x in range(1, 10) :
    writer.add_scalars('test', {'x' : x*2, 
                                'y' : x*3, 
                                'z' : x*4}, x)
writer.close()

直方图

1
2
3
4
5
6
7
add_histogram( tag , values , global_step = None , bins = ‘tensorflow’ , walltime = None , max_bins = None )
参数：
- tag ( string ) – 数据标识符
- 值（torch.Tensor、numpy.array或string/blobname）– 构建直方图的值
- global_step ( int ) – 要记录的全局步长值
- bins ( string ) – {‘tensorflow’,‘auto’, ‘fd’, …} 之一。这决定了柱的制作方式。
- walltime ( float ) – 记录训练的时间，默认 walltime (time.time()) 秒

例子

1
2
3
4
for step in range(10) :
	x=2
    writer.add_histogram('distribution of gaussion', x, step) # x的变化
writer.close()

网络

1
2
3
4
5
6
7
8
add_graph(model, input_to_model=None, verbose=False, use_strict_trace = True)
参数：
- model( torch.nn.Module ) – 要绘制的模型。
- input_to_model ( torch.Tensor or list of torch.Tensor ) – 要输入的变量或变量元组
- verbose(bool）– 是否在控制台中打印图形结构。
- use_strict_trace ( bool ) – 是否将关键字参数严格传递给 torch.jit.trace。当您希望跟踪器记录您的可变容器类型（列表、字典）时传递 - False.

writer.add_graph(model, input)

3.Run pytest in xx.py

进入了Pytest模式导致程序不能正常运行
1.File->Settings->Tools->Python integrated Tools
2.找到Testing下的Default test runner
3.把Pytest设置为Unittests就可以了

4.[WinError 1455] 页面文件太小

虚拟内存给足30G左右就行了，不然修改一下batch_size或者其他模型参数

5.混淆矩阵

混淆矩阵图

自定义混淆矩阵的程序（哪里CV的记不得了） 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
import numpy as np
import matplotlib.pyplot as plt

cm_test = np.array([[98,2],[1,99]])
TP=98
FN=1
FP=2
TN=99
print("ACC",((TP+TN)/(TP+FP+TN+FN)))
print("Precision",(TP/(TP+FP)))
print("Sensitivity",(TP/(TP+FN)))
print("Specificity",(TN/(TN+FP)))
P=TP/(TP+FP)
R=TP/(TP+FN)
print("F1-score",2*P*R/(P+R))
classes = ['0','1']
# 关于类别顺序可由 labels参数控制调整，
# 例如 labels=[2,1,0],则类别将以这个顺序自上向下排列。默认数字类别是从小到大排列，英文类别是按首字母顺序排列
confusion_matrix = cm_test
plt.figure(figsize=(5, 4),dpi=300)
tick_marks = np.arange(len(classes))
plt.xticks(tick_marks, classes,size = 16)
plt.yticks(tick_marks, classes,size = 16)
plt.xlabel('Predictions', fontsize=18)
plt.ylabel('Actuals', fontsize=18)
thresh = confusion_matrix.max() / 2.
iters = np.reshape([[[i,j] for j in range(2)] for i in range(2)],(confusion_matrix.size,2))
for i, j in iters:
    plt.text(j, i, format(confusion_matrix[i, j]),fontsize = 16,va = 'center', ha = 'center')   #显示对应的数字

plt.tight_layout()

# plt.title('CM')
plt.imshow(confusion_matrix, interpolation='nearest', cmap=plt.cm.GnBu)  #按照像素显示出矩阵
plt.colorbar()
plt.show()

再贴一个自定义ROC的（哪里CV的记不得了）

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
# 数据准备
import numpy as np
from sklearn import metrics
y = np.array([1, 2, 2, 2,2])
scores = np.array([0.01, 0.98, 0.99, 0.99,0.99])

# roc_curve的输入为
# y: 样本标签
# scores: 模型对样本属于正例的概率输出
# pos_label: 标记为正例的标签，本例中标记为2的即为正例
fpr, tpr, thresholds = metrics.roc_curve(y, scores, pos_label=2)
# 假阳性率
fpr#array([ 0. ,  0.5,  0.5,  1. ])
# 真阳性率
tpr#array([ 0.5,  0.5,  1. ,  1. ])
# 阈值
thresholds#array([ 0.8 ,  0.4 ,  0.35,  0.1 ])

# auc的输入为很简单，就是fpr, tpr值
auc = metrics.auc(fpr, tpr)
print(auc)

import matplotlib.pyplot as plt
plt.figure()
lw = 2
plt.plot(fpr, tpr, color='darkorange',
         lw=lw, label='ROC of dichotomy curve (area = %0.2f)' % auc)
plt.plot([0, 1], [0, 1], color='navy', lw=lw, linestyle='--')
plt.xlim([0.0, 1.0])
plt.ylim([0.0, 1.05])
plt.xlabel('False Positive Rate')
plt.ylabel('True Positive Rate')
plt.title('ROC of dichotomy')
plt.legend(loc="lower right")
plt.show()

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia-plus根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true