知识点回顾
- 回调函数
- lambda函数
- hook函数的模块钩子和张量钩子
- Grad-CAM的示例
1. 回调函数（Callback Function）
回调函数是作为参数传递给另一个函数的函数，目的是在某个事件发生后执行。
def fetch_data(callback):
# 模拟数据获取
data = {"name": "Alice", "age": 30}
callback(data)
def process_data(data):
print(f"处理数据: {data['name']}, {data['age']}岁")
# 使用回调函数
fetch_data(process_data)2. Lambda 函数（匿名函数）
Lambda 函数是一种轻量级的匿名函数，适用于简单操作。
# 常规函数
def add(a, b):
return a + b
# 等效的lambda函数
add_lambda = lambda a, b: a + b
# 使用lambda函数
result = add_lambda(5, 3)
print(f"Lambda结果: {result}")
# 在高阶函数中使用lambda
numbers = [1, 2, 3, 4, 5]
squared = list(map(lambda x: x**2, numbers))
print(f"平方结果: {squared}")3. Hook 函数
Hook 函数允许在不修改原始代码的情况下注入自定义逻辑，常见的有模块钩子和张量钩子。
import torch
import torch.nn as nn
class MyModel(nn.Module):
def __init__(self):
super().__init__()
self.conv = nn.Conv2d(3, 16, kernel_size=3)
self.relu = nn.ReLU()
def forward(self, x):
x = self.conv(x)
x = self.relu(x)
return x
# 定义钩子函数
def activation_hook(module, input, output):
print(f"{module.__class__.__name__}输出形状: {output.shape}")
model = MyModel()
# 注册钩子到ReLU模块
hook_handle = model.relu.register_forward_hook(activation_hook)
# 测试模型
x = torch.randn(1, 3, 32, 32)
output = model(x)
# 移除钩子
hook_handle.remove()import torch
# 创建张量并启用梯度
x = torch.tensor(2.0, requires_grad=True)
y = x**2
# 定义张量钩子
def print_grad(grad):
print(f"梯度值: {grad}")
# 注册钩子
hook_handle = y.register_hook(print_grad)
# 反向传播
y.backward()
# 移除钩子
hook_handle.remove()4. Grad-CAM 示例
Grad-CAM (Gradient-weighted Class Activation Mapping) 是一种可视化深度神经网络决策依据的技术。
import torch
import torch.nn.functional as F
import numpy as np
import cv2
from torchvision import models, transforms
from PIL import Image
import matplotlib.pyplot as plt
# 加载预训练模型
model = models.resnet50(pretrained=True)
target_layer = model.layer4[-1] # 最后一个卷积层
# 存储特征图和梯度
features = None
grads = None
# 特征钩子
def forward_hook(module, input, output):
global features
features = output.detach()
# 梯度钩子
def backward_hook(module, grad_in, grad_out):
global grads
grads = grad_out[0].detach()
# 注册钩子
hook_f = target_layer.register_forward_hook(forward_hook)
hook_b = target_layer.register_backward_hook(backward_hook)
# 预处理图像
def preprocess_image(img_path):
transform = transforms.Compose([
transforms.Resize((224, 224)),
transforms.ToTensor(),
transforms.Normalize(mean=[0.485, 0.456, 0.406],
std=[0.229, 0.224, 0.225])
])
image = Image.open(img_path).convert('RGB')
return transform(image).unsqueeze(0), image
# 加载图像
img_path = 'cat_dog.jpg' # 替换为你的图像路径
input_tensor, orig_img = preprocess_image(img_path)
# 设置模型为评估模式
model.eval()
# 前向传播
output = model(input_tensor)
pred_class = output.argmax()
# 反向传播
model.zero_grad()
one_hot = torch.zeros_like(output)
one_hot[0, pred_class] = 1
output.backward(gradient=one_hot, retain_graph=True)
# 计算权重 (全局平均池化梯度)
weights = torch.mean(grads, dim=(2, 3), keepdim=True)
# 加权组合特征图
cam = torch.sum(weights * features, dim=1).squeeze()
cam = F.relu(cam) # 应用ReLU去除负值
# 归一化
if torch.max(cam) > 0:
cam = cam / torch.max(cam)
# 调整CAM尺寸与原图匹配
cam_np = cam.detach().cpu().numpy()
cam_resized = cv2.resize(cam_np, (orig_img.width, orig_img.height))
# 转换为热力图
heatmap = cv2.applyColorMap(np.uint8(255 * cam_resized), cv2.COLORMAP_JET)
heatmap = cv2.cvtColor(heatmap, cv2.COLOR_BGR2RGB)
# 叠加热力图到原图
superimposed_img = heatmap * 0.4 + np.array(orig_img)
superimposed_img = np.uint8(superimposed_img)
# 显示结果
plt.figure(figsize=(12, 4))
plt.subplot(131)
plt.imshow(orig_img)
plt.title('原始图像')
plt.axis('off')
plt.subplot(132)
plt.imshow(cam_resized, cmap='jet')
plt.title('激活映射')
plt.axis('off')
plt.subplot(133)
plt.imshow(superimposed_img)
plt.title('Grad-CAM结果')
plt.axis('off')
plt.tight_layout()
plt.show()
# 移除钩子
hook_f.remove()
hook_b.remove()@浙大疏锦行
