我很确定你不能用这种方法来屏蔽角，单元格的backgroundView是一个分组的UITableView的图像，所以没有屏蔽的感觉。
解决这个问题的一个可能的方法是自己把角弄圆。这有点棘手，因为你只想把顶部单元格的顶角和底部单元格的底角弄圆。幸运的是，@lomanf在这里发布了一个很好的解决任意角的方法：在UIView中绕过两个角，使用他的MTDContextCreateRoundedMask方法，我们可以实现我们的目标。

- (UITableViewCell *)tableView:(UITableView *)tableView cellForRowAtIndexPath:(NSIndexPath *)indexPath {
    // Other cell instantiation

    // First cell in section
    if (indexPath.row == 0) {
        [self roundTopOrBottomCornersOfCell:cell top:YES];       
    }
    // Last cell in section
    else if (indexPath.row == tableView.numberOfRowsInSection:indexPath.section-1) {
        [self roundTopOrBottomCornersOfCell:cell top:NO];
    }
}

// Modified from the second part of @lomanf's Solution 1
- (void)roundTopOrBottomCornersOfCell:(UITableViewCell*)cell top:(BOOL)top {
        // Set constant radius
        CGFloat radius = 5.0;

        // Create the mask image you need calling @lomanf's function
        UIImage* mask;
        if (top) {
            mask = MTDContextCreateRoundedMask(self.view.bounds, radius, radius, 0.0, 0.0);
        }
        else {
            mask = MTDContextCreateRoundedMask(self.view.bounds, 0.0, 0.0, radius, radius);
        }

        // Create a new layer that will work as a mask
        CALayer* layerMask = [CALayer layer];            
        layerMask.frame = cell.bounds;

        // Put the mask image as content of the layer
        layerMask.contents = (id)mask.CGImage;

        // Set the mask layer as mask of the view layer
        cell.layer.mask = layerMask;
}

我也遇到过同样的问题
不同的是，我使用的是普通的风格，我试图使每一个细胞与圆角。最后，我做到了，这里是我的方式：
1.将此代码放入自定义tableViewCell的awakeFromNib方法中

[cell.layer setMasksToBounds:YES];
    [cell.layer setCornerRadius:5.0];

2.设置你的自定义TableViewCell的内容视图的背景色为白色，然后设置你的tableView的背景色为透明色。